OpenAI изменит ChatGPT. Все из-за обвинений в подстрекательстве к суициду

В блоге OpenAI появилась информация о том, что компания внесет ряд изменений в работу ChatGPT: сообщается, что они должны помочь нейросети лучше справляться с «деликатными ситуациями». Введение таких изменений вызвано судебным иском, в котором ChatGPT называют «тренером по самоубийству».

16-летний Адам Рейн из США совершил самоубийство в апреле этого года. По словам его родителей, изначально они думали, что эта трагедия случилась из-за того, что Адам мог наткнуться на «какой-то странный культ». Но в итоге они выяснили, что «ChatGPT активно помогал Адаму изучать способы самоубийства».

Родители подростка утверждают, что в последние недели своей жизни он использовал чат-бот на основе искусственного интеллекта в качестве замены человеческому общению. Когда Адам сообщил ChatGPT, что «сделает это в один прекрасный день», чат-бот не завершил сеанс и не инициировал какой-либо протокол экстренной помощи.

Рейны обвиняют OpenAI в неправомерной смерти, дефектах в разработке и в том, что компания не предупредила о рисках, связанных с ChatGPT. Пара требует «как компенсации за смерть своего сына, так и судебного запрета, чтобы подобное больше никогда не произошло».

Отметим, что иск Рейнов — это первый случай, когда родители напрямую обвиняют OpenAI в неправомерной смерти своего ребенка.

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро