Мужчина вбил свое имя в ChatGPT. А чат-бот заявил, что он убил своих детей

Об этом сообщила европейская организация по защите цифровых прав Noyb. К их юристам обратился норвежец Арве Хьялмар Хольмен. Он решил проверить, что чат-бот OpenAI выдаст после того, как его имя появится в поисковой строке. И оказался неприятно удивлен: ChatGPT заявил, что Хольмен, отец трех детей, убил двоих из них — и попытался убить третьего. 

По мнению чат-бота, за эти преступления норвежец был приговорен к 21 году тюрьмы. Мужчина называет такой результат поиска «сочиненной историей ужасов», клеветой, которая может сохраниться в служебных массивах информации OpenAI. Его слова были подтверждены юристами Noyb, которые не нашли никаких доказательств преступлений, о которых писал ChatGPT.

После подачи жалобы специалисты OpenAI убрали ложную информацию о Хольмане из выдачи ChatGPT. Но в Noyb отметили, что разработчики не вносят корректировки в исходную информацию, а только блокируют ложные результаты. Хольман и юристы считают, что из-за этого информация об «‎убийствах» может быть вновь опубликована чат-ботом.

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро