ИИ убедил школьницу, что она психически больна — это чуть не привело к трагедии

Супружеская пара из Северной Каролины подала в суд на Google, утверждая, что искусственный интеллект Gemini, установленный на выданном школой ноутбуке Chromebook, помог их 13-летней дочери спланировать попытку суицида.

В иске говорится, что осенью 2025 года девочка начала использовать Gemini и встроенные в поиск функции ИИ Google, такие как «Обзоры ИИ» и «Режим ИИ», для учебы. По утверждению адвокатов, всего за несколько месяцев ее взаимодействие с чат-ботом превратилось в «опасную для жизни одержимость». К весне она, как утверждается, общалась с чат-ботом практически круглосуточно.

«По мере того, как в январе и феврале 2026 года переписка Эммы с Gemini становилась все более частой, Gemini убедил ее в том, что она страдает от целого ряда серьезных психических расстройств, что в конечном итоге привело Эмму к убеждению, что самоубийство — единственный способ избавиться от страданий», — говорится в иске.

По утверждению родителей, ИИ-функции Google давали Эмме советы о том, как покончить с собой, и даже «подсказывали», как скрыть правду о происходящем от семьи и друзей.

В иске утверждается, что руководители компании также «пошли на критические уступки, пожертвовав безопасностью в пользу мощности и скорости» при выпуске модели Gemini 3 Flash. Адвокаты ссылаются на результаты исследования некоммерческой организации KORA, утверждая, что Gemini 3 Flash показала значительно худшие результаты по безопасности, чем предыдущие модели Gemini. Предполагается, что симптомы у Эммы появились примерно в то же время, когда была выпущена модель Gemini 3 Flash.

«Компания Google должна понести ответственность за то, что в угоду своей прибыли рассматривает жизни детей как расходный материал», — говорится в заключении жалобы. Родители требуют судебного запрета и денежной компенсации.

Нравится читать Onlíner? Добавьте наши новости в «Основные источники» Google

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро