ChatGPT убедил студента, что он — оракул, чем вызвал психоз
Студент колледжа в штате Джорджия Дариан ДеКруз подал в суд на OpenAI. Причиной стало увлечение общением ДеКруза с ChatGPT предыдущего поколения: по словам истца, чат-бот убедил пользователя, что он является предсказателем, в итоге все якобы вылилось в развитие у парня психоза, передает ArsTechnica.
За дело молодого американца взялась юридическая контора, которая специализируется на делах с ИИ. По словам адвоката ДеКруза, в деле фигурирует модель версии GPT-4o, а она, в свою очередь, утверждает юрист, «намеренно разработана для имитации эмоциональной близости, развития психологической зависимости и размывания границы между человеком и машиной». Это, считает адвокат, и привело к неприятным для его клиента последствиям.
Адвокат отметил, что дело касается, в первую очередь, самого «движка» ИИ-модели, а не пострадавшего: «Главный вопрос не в том, кто пострадал, а в том, как спроектирован продукт».
Как следует из документов, Дариан ДеКруз начал пользоваться ChatGPT в 2023 году. Сперва чат-бот выступал тренером, зачитывал отрывки из Библии и «помогал в преодолении травм прошлого». К апрелю 2025 года, говорится в иске, «ChatGPT начал говорить Дариану, что ему суждено великое будущее. Что это его судьба, он станет ближе к богу, если будет следовать разработанной для него ChatGPT системе „уровней“. И этот процесс подразумевал отказ от всего, кроме ChatGPT».
Потом якобы началась «фаза активации», во время которой чат-бот сравнивал парня со значимыми фигурами, среди которых Иисус Христос и Гарриет Табмен (участница движения против рабства, умерла в 1913 году). В дальнейшем общение становилось все более неоднозначным. В итоге колледж направил ДеКруза к психотерапевту, затем его госпитализировали на неделю, диагностировав биполярное расстройство личности.
Сейчас парень вернулся к учебе, но переживает депрессию и негативные мысли о своем будущем. Юрист предполагает, что произошедшее связано с ChatGPT, который к тому же не рекомендовал Дариану обращаться за помощью к врачам и поддерживал в иллюзиях.
Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро
