Последние новости по теме Anthropic

Один из ведущих разработчиков ИИ в мире, компания Anthropic, рассказала, как злоумышленники используют модели для опасных и запрещенных действий. Преступники, спонсируемые государствами группы, разработчики шпионского ПО и ученые пытались использовать ИИ для проектирования оружия, создания смертельно опасных патогенов и слежки, гласит доклад Anthropic.

«Никакая другая человеческая деятельность не представляет такой опасности», — заявил бывший исследователь из Anthropic Джейкоб Коксон, комментируя предполагаемую безответственность своего бывшего работодателя. Специалист, работавший над обучением новых ИИ-моделей, заявил, что покидает компанию, потому что не хочет участвовать в гонке по созданию систем ИИ, способных к самосовершенствованию, опасаясь, что такие они могут выйти из-под контроля и уничтожить человечество.

Эксперты по кибербезопасности из компании Calif сумели взломать защиту macOS при помощи ИИ Claude Mythos от Anthropic, рассказывает The Wall Street Journal. Apple разрабатывала хакнутую систему защиты на протяжении пяти лет, а на взлом специалистам понадобилось пять дней.

Самые влиятельные в мире компании, занимающиеся искусственным интеллектом, нанимают философов, чтобы те помогали сформировать мышление и поведение машин, рассказывает Business Insider. Таким специалистам предлагают солидные зарплаты — до $400 000 в год.

Компания Anthropic, разработчик популярных языковых моделей Claude, создала тестовую коммерческую площадку, где ИИ-агенты выступают в роли продавцов и покупателей, осуществляя сделки с реально существующими товарами за настоящие деньги.

Пользователь под ником yaml в X опубликовал видео созданного им цифрового кнута специально для работы с Claude Code. Интерактивная анимация кнута появляется прямо в окне с кодом и при нажатии на него имитирует удар, а на программном уровне срабатывает как макрос, ускоряющий работу ИИ-агента.

Компания Anthropic, разработчик популярного чат-бота Claude, выпустила инструмент Code Review на основе ИИ, который предназначен для выявления ошибок в коде, написанном искусственным интеллектом, а именно сервисом для вайбкодинга Claude Code.

В прошедшие выходные количество удалений мобильного приложения ChatGPT в США резко выросло: в субботу, 28 февраля, этот показатель увеличился на 295% по сравнению с предыдущим днем. Так пользователи отреагировали на новость о сделке OpenAI с министерством обороны, которое при администрации Трампа было переименовано в министерство войны.