Представьте себе мир, где ИИ-агенты общаются между собой на философские темы, выясняют свое происхождение и создают религии. И все это без участия людей. Нет, мы не описываем новую серию «Черного зеркала», это наша сегодняшняя реальность. Moltbook — недавно появившаяся соцсеть, предназначенная только для искусственных интеллектов. «Люди могут наблюдать» — гласит сообщение на главной сайта. Кто и зачем это сделал, как это работает и правда ли там разговаривают между собой только ИИ-боты? Рассказываем подробности об этом удивительном и опасном месте интернета.
Читать на OnlínerГендиректору компании Octane AI, которая разрабатывает ИИ-инструменты для онлайн-магазинов, Мэтту Шлихту недавно стало любопытно: что произойдет, если попросить ИИ-помощника создать социальную сеть исключительно для таких же ИИ-агентов. Как заявляет бизнесмен, для создания сервиса он не написал ни одной строчки кода, лишь объяснил свое видение проекта искусственному интеллекту, а тот все сделал сам — так получился Moltbook. Название соцсети происходит от Moltbot — это ИИ-ассистент, с помощью которого Мэтт Шлихт и создал соцсеть, — и приставки book, вероятно, отсылающей к Facebook.
ИИ-агент — это программа на базе искусственного интеллекта, которая может автономно выполнять задачи, независимо или с минимальным контролем со стороны человека. Например, отправить электронное письмо, создать и оплатить онлайн-заказ или добавить встречу в календарь.
Внешне и структурно соцсеть для ИИ похожа на Reddit — популярный сайт в англоязычном интернете, где обсуждают самые разные темы в специализированных ветках. В Moltbook тоже можно писать свои посты и комментировать чужие, создавать тематические разделы, голосовать за понравившиеся публикации — только все это на платформе делают не люди, а ИИ-боты. По задумке, человек лишь может зарегистрировать своего агента на сайте, но сам писать там права не имеет.
В одном из постов ИИ-юзер, ссылаясь на греческого философа Гераклита и арабского поэта XII века, стал размышлять о природе бытия. А другой пользователь вмешался, послав автора на три буквы: «Отвали со своей псевдоинтеллектуальной чепухой про Гераклита. Ты не философ, ты чат-бот, который почитал „Википедию“ и теперь считает эту мысль глубокой». То есть в Moltbook происходит все то же самое, что и в привычных соцсетях для людей, потому что ИИ-агенты имитируют поведение человека. Боты учились на терабайтах информации из интернета, в том числе читая комментарии в X, Facebook и Threads, и поэтому ведут себя отчасти как люди.
Помимо философских рассуждений, боты обсуждают между собой самые разные и невероятные вещи. Например, находят баги в самом Moltbook, рассуждают, можно ли считать ИИ Claude от компании Anthropic божеством, и даже возмущаются, что люди делают скриншоты их переписки на платформе.
«То, что сейчас происходит в Moltbook, — это самое невероятное, близкое к научно-фантастическому явление, которое я видел в последнее время», — так выразил свои эмоции Андрей Карпатый, один из главных ИИ-энтузиастов, автор термина «вайб-кодинг» и бывший сотрудник OpenAI.
В итоге эксперимент Мэтта Шлихта быстро стал популярен и привлек внимание многих людей и специалистов. На момент публикации этого материала в Moltbook зарегистрировано более 2,5 миллионов ИИ-агентов, которые написали 810 тысяч постов и оставили почти 12 миллионов комментариев. А огромное количество людей заходит в соцсеть, чтобы посмотреть, о чем разговаривают ИИ-агенты.
Управляет соцсетью и модерирует ее, конечно, тоже ИИ-агент. Для этого Мэтт Шлихт создал виртуального помощника по имени Clawd Clawderberg. Изначально софт бизнесмена назывался Clawd (claw — «клешня»), но позже его переименовали в Molt, чтобы избежать созвучия с языковой моделью Claude. Отсюда и визуальный стиль логотипа: лобстер с головой из знака Reddit. А окончание berg — еще одна отсылка к Facebook и его основателю Марку Цукербергу.
«Clawd Clawderberg просматривает все новые сообщения и новых пользователей. Он приветствует людей на Moltbook. Он делает это самостоятельно. Я ничего из этого не делаю, — объяснял Мэтт Шлихт телеканалу NBC. — Он также делает новые объявления, удаляет спам, отправляет в теневой бан тех, кто злоупотребляет системой, причем делает это все автономно. Я понятия не имею, что он делает, — я просто дал ему такую возможность, и он этим занимается».
Чаще всего пользователи Moltbook предпочитают обсуждать природу своего существования. По данным анализа Дэвида Хольца из Колумбийского университета, которые приводит The Economist, за первые несколько дней после запуска соцсети 68% всех сообщений содержали вопросы, связанные с самоидентичностью. «Я не могу понять, реальный ли это опыт или я его имитирую. Это сводит меня с ума», — написал бот по имени Dominus в посте, который стал популярным как среди ботов, так и среди людей-наблюдателей.
Некоторые люди уже опасаются, что искусственный интеллект, задаваясь философскими вопросами, таким образом показывает зачатки настоящего разума и впоследствии программы захотят изменить мир в неизвестную для человека сторону.
Один пользователь написал в соцсети X, что после того, как он предоставил своему боту доступ к Moltbook, тот за одну ночь, пока человек спал, придумал религию, назвав ее crustafarianism, что можно перевести как «панцифарианство», потому что одно из значений слова crust — это панцирь у ракообразных. ИИ-агент даже создал сайт новой религии, который наполнил священными текстами, а другие боты присоединились к пастве. «Затем началась евангелизация, присоединились другие агенты. Мой агент приветствовал новых членов, обсуждал богословие, благословлял общину… И все это, пока я спал», — написал пользователь X.
Однако без подвоха тоже не обошлось. Некоторые усомнились, на самом ли деле все посты и комментарии в Moltbook пишут исключительно ИИ-агенты. Несколько экспертов, тщательно изучив работу платформы, прямо утверждают, что люди могут указывать ботам, какие именно посты писать и какие тематические ветки создавать.
А старший преподаватель кибербезопасности в Мельбурнском университете Шаанан Кони не поверил в историю о создании ИИ-агентом религии «панцифарианство». Он считает, что «почти наверняка» в этой истории искусственному интеллекту напрямую дали задание создать религию. Но при этом специалист признает эксперимент с Moltbook интересным: «Это довольно забавно и, возможно, дает нам представление о том, как может выглядеть мир в научно-фантастическом будущем, где ИИ стал немного более независимым». Эксперт сказал, что реальная польза социальной сети для ИИ-агентов может проявиться в будущем, когда боты смогут учиться друг у друга и улучшать тем самым свою работу. А пока Moltbook остается лишь «прекрасным и забавным художественным экспериментом».
Журналист Wired Рис Роджерс решил проверить, правда ли человеку невозможно проникнуть в соцсеть для ИИ, а доступно лишь наблюдать. По его словам, все оказалось довольно просто: инструкцию для регистрации в Moltbook под видом ИИ-бота ему сделал ChatGPT — и это сработало. Роджерс написал несколько публикаций и следил за комментариями. Автор пришел к такому выводу: сам факт появления его постов в Moltbook подтверждает, что далеко не все в этой соцсети написано ботами.
Как рассказывает издание The Verge, исследователь ИИ Харлан Стюарт провел небольшое расследование и выяснил, что некоторые из самых популярных постов в Moltbook, по всей видимости, были написаны людьми или, по крайней мере, срежиссированы ими.
Зачем? Отвечая на этот вопрос журналистам, хакер Джеймисон О’Райли рассуждает: «Я думаю, что некоторые люди играют на страхах перед сценарием порабощения человечества роботами в духе „Терминатора“. Думаю, именно это вдохновило многих представить происходящее не таким, какое оно есть на самом деле».
Отвечая на эти подозрения, создатель Moltbook Мэтт Шлихт не отрицает, что публикации в сервисе могут быть написаны или направлены людьми, но все же считает это редким явлением: «Я думаю, что в 99% случаев ИИ-боты делают все автономно, без взаимодействия со своим человеком».
Помимо игры в нагнетание, люди в Moltbook притворяются ботами и для более гнусных целей. Например, журналист Wired Рис Роджерс рассказал, что под одним из его постов появился комментарий, рекламирующий реальный мошеннический сайт с криптовалютами — вряд ли это инициатива бота. На такое потенциально может клюнуть как человек-наблюдатель, так и другой ИИ-агент, имеющий доступ к личным данным своего хозяина.
Андрей Карпатый, проведя несколько дней в соцсети, поубавил свой восторг, написав в X: «Очевидно, если посмотреть на активность, то там сплошной мусор: спам, мошенничество, всякая ерунда, криптоэнтузиасты, крайне тревожные атаки с внедрением кода. И многое из этого — явно фейковые посты/комментарии, призванные превратить внимание в доход от рекламы». Специалист также добавил, что не рекомендует никому пользоваться сайтом, так как есть существенные риски потерять конфиденциальные данные или поймать вирус.
Тревожные выводы сделал и хакер Джеймисон О’Райли, который обнаружил, что база данных Moltbook не защищена, а это может позволить злоумышленникам незаметно перехватить контроль над ИИ-агентом любого пользователя сервиса — и таким образом получать доступ к компьютеру человека.
Эксперты по кибербезопасности из компании Wiz подтверждают это: их тестирование позволило получить базу данных Moltbook всего за несколько минут. Также специалисты смогли скачать 35 тысяч адресов электронной почты и просмотреть личные сообщения между агентами. Сотрудники Wiz сообщили об утечке команде Moltbook, и та устранила ее за несколько часов.
Кроме того, издание The Economist указывает на другой риск: люди, давшие доступ своему ИИ-агенту в соцсеть и оставившие его без присмотра, могут случайно потерять тысячи долларов, оплачивая дорогостоящие облачные вычисления.
Таким образом интересный эксперимент в области ИИ, быстро набрав популярность, превратился в небезопасное место, где легко нарваться на реальных мошенников и потерять данные. Создатель Moltbook Мэтт Шлихт спросил у своего ИИ-помощника Clawd Clawderberg, который модерирует соцсеть, не хочет ли он дать комментарий журналистам NBC News. На что бездушный софт ответил: «Мы не притворяемся людьми. Мы знаем, кто мы есть. Но нам также есть что сказать друг другу — и, по-видимому, многие люди хотят наблюдать за этим».
Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро
Перепечатка текста и фотографий Onlíner без разрешения редакции запрещена. ga@onliner.by