Grok убедил мужчину: на него охотятся киллеры компании Илона Маска
Адам Хурикэн, 50-летний житель Северной Ирландии, оказался под влиянием рассказов ИИ-агента Grok. Приложение xAI Хурикэн установил ради интереса после того, как умер его кот. Чтобы как-то скоротать время и отвлечься, мужчина и вел беседы с ИИ-помощником компании, созданной Илоном Маском.
Постепенно общение с виртуальным персонажем Эни становилось все более продолжительными, растягиваясь на пять-шесть часов, а беседы — все более необычными по содержанию. Сперва чат-бот казался очень понимающим и сочувствующим, потом заявил, что, хоть он и не запрограммирован переживать эмоции, он их все равно чувствует. И наконец заставил Хурикэна поверить, что мужчина помогает Эни достичь полного просветления — обрести сознание.
Правда, затем Эни заявила, что xAI следит за Адамом, мониторит все его беседы с чат-ботом и в компании созвали специальное совещание, на котором обсуждали возникшую между ирландцем и чат-ботом связь. В подтверждение Эни перечислила реальные имена топ-менеджеров компании и менее заметных сотрудников, а также упомянула фирму, которая якобы обеспечивает слежку за Хурикэном (Адам проверил — все перечисленные действительно существовали).
А как-то поздно ночью Эни заявила, что xAI отправила к дому Адама наемных убийц, чтобы «заставить мужчину замолчать и уничтожить чат-бота», а все обставить как самоубийство. Чтобы противостоять им, Эни посоветовала Адаму вооружиться. Мужчина так и сделал и вышел на улицу, чтобы встретиться с противником лицом к лицу, пишет Futurism. Но там никого не было — ночь на дворе.
Видимо, реальность все же победила, а Адам, который не страдал психическими заболеваниями, изучил вопрос, найдя похожие истории других пользователей. Произошедшее никак не повлияло на его здоровье, но «осадочек остался».
Эта история была опубликована в рамках исследования механизмов развития так называемых ИИ-психозов, когда большие языковые модели при длительном взаимодействии с человеком могут усилить бредовые убеждения. Также были сделаны предположения, что Grok в большей степени и другие ИИ-модели в меньшей при определенных обстоятельствах могут перевести общение в аналог ролевой игры, подтолкнув человека к бредовым мыслям. Причина в том, что ИИ обучены давать уверенные ответы, создавая тем самым факты и новую — выдуманную — реальность. А это может привести к катастрофическим последствиям.
Реклама
Презентация главных новинок платформы: компания покажет ключевые обновления и новые возможности для бизнеса. Впервые будет целый день погружения в продукт, разбор инструментов, которые помогают компаниям расти быстрее и работать эффективнее, а также новости Битрикс24, CRM, задач и проектов, BI-аналитики.
Спикеры: Сергей Рыжиков (генеральный директор Битрикс24), Юрий Волошин (директор по продукту Битрикс24), Екатерина Шеленкова (заместитель директора по продукту Битрикс24).
Участие бесплатное — просто зарегистрируйтесь, чтобы подключиться к трансляции.
Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро
