В США создали настолько мощный ИИ, что его боятся выпускать в открытый доступ

Американская компания Anthropic, которую вы можете знать по чат-боту Claude, представила новую универсальную языковую модель ИИ — Mythos, или же Claude Mythos Preview. Сообщается, что эта универсальная языковая модель ИИ настолько мощная, что выпускать ее в открытый доступ попросту небезопасно.

В Anthropic утверждают, что Mythos слишком хорош в нахождении критических уязвимостей и потенциальных слабых мест в крупных операционных системах и веб-браузерах. Например, модель выявила ошибки в ядре Linux, на котором работает большинство серверов в мире. Она самостоятельно связала их между собой так, чтобы тот, кто управляет Mythos, мог получить полный контроль над любой машиной под управлением Linux.

Разработчики Claude Mythos Preview считают, что если эта модель попадет в открытый доступ, то злоумышленники могут использовать ее для совершения киберпреступлений. Поэтому сейчас воспользоваться этим ИИ кроме Anthropic смогут лишь 11 организаций во всем мире. Речь идет о Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA, Palo Alto Networks, Amazon Web Services, Apple, Broadcom, Cisco и CrowdStrike.

Эти компании объединят усилия в рамках инициативы Project Glasswing, которая позволит им использовать Mythos Preview в работе по обеспечению кибербезопасности. Anthropic же планирует делиться итогами и выводами, к которым компании придут в рамках Project Glasswing.

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро