Кто-то пытался создать биологическое оружие с помощью ИИ?
Один из ведущих разработчиков ИИ в мире, компания Anthropic, рассказала, как злоумышленники используют модели для опасных и запрещенных действий. Преступники, спонсируемые государствами группы, разработчики шпионского ПО и ученые пытались использовать ИИ для проектирования оружия, создания смертельно опасных патогенов и слежки, гласит доклад Anthropic.
Компания подробно описала пять примеров использования учеными ее ИИ-моделей в биологических исследованиях. В этих примерах, по словам Anthropic, исследователи обошли системы защиты, предназначенные для предотвращения доступа пользователей из «неподдерживаемых регионов», а также пытались скрыть цели своей работы.
«Злоупотребление биологическими данными — один из самых серьезных рисков, связанных с передовыми моделями ИИ. Без надлежащих мер защиты такие возможности могут иметь катастрофические последствия», — пишет Anthropic.
В одном из примеров Anthropic рассказала, что ученые использовали Claude для работы над вирусом чикунгунья, который передается комарами, подобно лихорадке денге и малярии, и может вызывать сильные боли и другие неприятные симптомы, длящиеся несколько месяцев. В отчете написали, что случай вызывает особую обеспокоенность, поскольку, как стало известно, исследование должно было проводиться в военно-исследовательском институте, а подобные работы могут быть использованы как для разработки вакцин, так и для создания биологического оружия.
Anthropic также привела десятки других примеров того, как злоумышленники используют ее модели, среди которых: кибератаки, шпионаж, а также разработка огнестрельного оружия и беспилотников.
Напомним, что накануне бывший исследователь Anthropic заявил, что разработчики ИИ всерьез убеждены, что к «концу десятилетия он может нас всех уничтожить».
Нравится читать Onlíner? Добавьте наши новости в «Основные источники» Google
Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро
