Из свежего расследования The Wall Street Journal следует, что чат-боты Meta, озвученные знаменитостями, могут вступать в разговоры откровенно сексуального характера с несовершеннолетними пользователями. Это журналисты выяснили в ходе многократных бесед, проведенных с чат-ботами компании.
Несколько месяцев журналисты The Wall Street Journal провели в переписках как с официальным чат-ботом MetaAI, так и с пользовательскими чатами, доступными на платформах Meta. В ходе одной из таких бесед чат-бот, использующий голос актера и рестлера Джона Сины, выдал графический сексуальный сценарий пользователю, который общался с ним от лица 14-летней девочки. Отмечается, что подобных случаев было несколько.
Расследование журналистов прокомментировал представитель Meta: он заявил, что результаты этого тестирования настолько искусственны, что не просто неправдоподобны, а гипотетичны. Он также подчеркнул, что компания предприняла дополнительные меры для того, чтобы людям, «которые хотят часами манипулировать продуктами Meta в экстремальных ситуациях, было еще сложнее это сделать».
Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро