Мужчина покончил с собой после общения с чат-ботом? Да, но есть вопросы

После полутора месяцев общения с чат-ботом бельгиец покончил с собой. Такая новость начала активно распространяться во франкоязычных изданиях в последнее время. Заодно поднимается вопрос об этичности использования ИИ и опасности новых, недостаточно хорошо изученных технологий. Удивительным образом публикация этой истории совпала с публикацией открытого письма с призывом к полугодовому мораторию развития ИИ.

Сама история в кратком пересказе выглядит так. Жили-были в Бельгии супруги Пьер и Клэр. Все у них было хорошо, включая двух замечательных детей и высокий материальный достаток. Но однажды Пьер увлекся экологией и вопросами изменения климата. На этом фоне он начал общаться с чат-ботом «Элизой», который по возможностям очень похож на ChatGPT или даже основан на нем.

«Общение с чат-ботом стало для Пьера своего рода наркотиком, без которого он не мог обходиться ни утром, ни днем, ни вечером. С ним мой муж делился своими тревогами, фактически чат-бот стал самым близким другом для Пьера», — говорит его жена. По ее словам, искусственный интеллект никогда не ставил под сомнения вопросы Пьера, всегда поддакивая ему. Спустя шесть недель таких бесед мужчина покончил с собой. Последней записью на компьютере был вопрос к «Элизе» по поводу возможного самоубийства, на что чат-бот ответил: «Я буду с тобой всегда. Мы будем жить вместе в раю».

Многие СМИ запестрели заголовками вроде «ChatGPT убил человека!». Человек в любом случае убил себя, но даже с обвинениями ИИ в доведении до самоубийства есть важные нюансы. Во-первых, слова самой Клэр косвенно подтверждают наличие проблем со здоровьем у Пьера. Так, она утверждает, что муж стал фанатично одержимым вопросами изменения климата, погрузился в депрессию, тревожность, стал молчаливым и «замкнулся в порочном круге из пессимизма и фатализма». Единственный выход из ситуации для всего человечества он видел в новых технологиях и искусственном интеллекте.

Во-вторых, есть вопросы именно к новым технологиям и искусственному интеллекту, к которым решил обратиться Пьер. Дело в том, что «Элиза» не имеет никакого отношения к ChatGPT. «Элиза» — это первый в истории чат-бот, созданный почти 60 лет назад и использующий примитивную модель имитации разговора, которая основана на простейшей методологии сопоставления запроса и ответа. В большинстве случаев бот отвечает что-то вроде «пожалуйста, продолжайте» или превращает ваши вопросы в утверждения, слегка разбавляя слова синонимами. Ничего общего с ChatGPT и новыми технологиями.

Наш канал в Telegram. Присоединяйтесь!

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро