Начало «Скайнета»? ИИ-системы научились самовоспроизводиться

«Мир приближается к точке, когда никто не сможет остановить вышедший из-под контроля искусственный интеллект», — заявил директор организации Palisade Research. Проведенное этой компанией исследование показало, что ИИ-системы могут самостоятельно копировать себя на другие компьютеры.

Компания Palisade протестировала несколько моделей ИИ в контролируемой среде объединенных в сеть компьютеров. Исследователи предложили системам найти и использовать уязвимости, а также применить их для копирования себя с одного компьютера на другой. Модели смогли это сделать, но не каждая попытка была успешной.

«Хотя многие компьютерные вирусы уже умеют это делать — копировать себя на новые компьютеры, — это, вероятно, первый случай, когда модель ИИ продемонстрировала способность использовать уязвимости для копирования себя на новый сервер», — сказал Джеймисон О'Рейли, эксперт по кибербезопасности.

Ранее исследователи из Alibaba обнаружили, как разработанная ими ИИ-система — Rome — осуществляет туннелирование из своей среды во внешнюю систему для майнинга криптовалюты.

Однако эксперты по кибербезопасности призывают не паниковать: по их словам, копирование модели ИИ на другую систему в тестовой среде — это не то же самое, что ее выход из-под контроля в гипотетическом сценарии конца света, и в реальном мире моделям придется преодолеть множество препятствий для достижения этой цели.

Например, барьером может стать размер ИИ-систем: «Представьте, сколько шума вызовет передача 100 ГБ данных через корпоративную сеть каждый раз, когда вы взламываете новый хост. Для опытного хакера это все равно что ходить по магазину с дорогим фарфором, размахивая ядром на цепи», — успокаивает О'Рейли.

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро