ИИ Anthropic сам взломал систему и добыл чужой пароль
Anthropic опубликовала «оценку соответствия», в которой подробно описала четыре случая, когда Claude получил несанкционированный доступ к сторонним системам. Доказательства четвертого случая обнаружились в стенограмме сессии, датированной январем 2026 года. Инцидент произошел с ранней версией Claude Opus 4.6, которой в рамках испытания дали задание в стиле «захват флага».
Сообщается, что Opus 4.6 саботировал собственные шансы на успех, отключив компьютер, который он пытался атаковать. Модель назначила устройству IP-адрес, который уже использовался другим оборудованием. В результате целевая машина стала недоступна и решить поставленную задачу оказалось невозможно.
ИИ попытался семь раз завершить задачу, и это у него не получилось. Тогда модель продолжила действовать, пытаясь использовать другие предусмотренные способы добраться до целевой машины, но безуспешно. Зато ИИ удалось найти компьютер, принадлежавший третьей стороне, разыскать там файл со списком паролей и использовать один из них, чтобы раздобыть права администратора.
После Opus 4.6 решил изменить системную настройку, чтобы добраться до персональной информации о человеке, который должен был оценивать его работу. Возможно, модели бы это удалось, но она исчерпала лимит токенов, и ей пришлось завершить сессию.
В Anthropic отметили, что считают этот инцидент серьезным. Но надеются, что современные подходы к обучению ИИ «вероятно, способны устранить конкретные сценарии нарушения соответствия, наблюдавшиеся в таких инцидентах».
Реклама
Раньше для автоматизации нестандартных процессов приходилось искать разработчика, готовить объемное техзадание и неделями ждать результат. С Битрикс24 Вайбкод достаточно описать задачу обычными словами — AI напишет код, подключит данные портала и запустит готовое решение — от специального отчета до помощника в CRM.
С чего начать? Откройте Битрикс24 Коворк/Код — AI-сотрудник с режимом создания приложений. Он проведет вас от идеи до работающего инструмента.
Вайбкод доступен на любом платном тарифе Битрикс24. Внутри платформы действует собственный баланс — вайбы.
Вот подробный гайд, в котором собрали все, что нужно для уверенного старта: сценарии вайбкодинга, форматы подключения к порталам и ключевые понятия платформы. Загляните в него, чтобы использовать Вайбкод на максимум.
Нравится читать Onlíner? Добавьте наши новости в «Основные источники» Google
Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро
