Плохая новость: мошенникам сегодня все чаще помогает искусственный интеллект. Есть и хорошая: тем, кто с ними борется, — тоже.

Как мошенники используют ИИ?

Чаще всего ИИ не помогает злоумышленникам изобретать принципиально новые способы обмана, но позволяет быстрее и в бóльших масштабах применять уже существующие, объясняет руководитель центра исследований искусственного интеллекта «Лаборатории Касперского» Владислав Тушканов.

Руководитель центра исследований искусственного интеллекта «Лаборатории Касперского» Владислав Тушканов

Например, нейросеть может составить персонализированное фишинговое письмо на основе информации о потенциальной жертве. Также с помощью ИИ-инструментов для программирования мошенникам стало проще создавать поддельные сайты.

— Теперь, чтобы сделать фишинговую веб-страницу, тебе не нужно быть разработчиком, который умеет верстать и создавать логику приложения. Достаточно просто сказать большой языковой модели: «Сделай мне копию вот этого сайта и добавь вредоносный функционал», — приводит пример Владислав.

В результате мошеннические атаки становятся доступнее и масштабнее. По наблюдениям эксперта, под угрозой все чаще оказываются даже небольшие компании, которые раньше не считали себя интересными для злоумышленников.

Как ИИ работает против мошенников?

Например, рассказывает Владислав Тушканов, операторы связи могут использовать ИИ для выявления подозрительных телефонных разговоров. Технология способна распознавать признаки мошенничества и предупреждать абонента об угрозе или прерывать звонок.

Также ИИ помогает защищаться от вредоносных программ, фишинговых писем и поддельных сайтов. Для этого используется многослойная защита: разные модели анализируют файлы и поведение программ, подстраховывая друг друга.

— Некоторые системы смотрят, как выглядят файлы, которые запускаются на компьютере. Другие модели анализируют, что именно программа делает: к каким файлам обращается, как выходит в интернет. На основе этого определяется, не является ли ее деятельность подозрительной, — объясняет эксперт.

ИИ-агенты — новая угроза?

Но сфера искусственного интеллекта развивается пугающе быстро. ИИ-чат-боты уже не самая передовая технология — на авансцену вышли ИИ-агенты. Но в чем разница и делают ли эти виртуальные работники мошенников еще опаснее? К сожалению, да.

Используя условный ChatGPT, жулик может попросить ИИ составить вредоносный код или придумать схему обмана, однако дальше он с этими знаниями шел и самостоятельно совершал атаки, работая руками. Разработанный нейросетью код нужно скопировать и вставить в правильное место, а текст фишингового письма нужно суметь эффективно разослать.

ИИ-агенты, словно цифровые работники, могут отвечать на запрос не просто текстом, а каким-то действием, объясняет наш собеседник. Среди таких может быть, например, сходить на какой-то сайт и выполнить там небольшую задачу: написать и отослать имейл, создать встречу в календаре, даже купить билет на мероприятие или заказать товар с доставкой на дом.

Это уже не просто полезный инструмент, которым пользуется человек, это — виртуальные сотрудники, которые автономно могут выполнять цепочки действий, самостоятельно принимая решения в рамках поставленной задачи.

— Используя ИИ-агентов, злоумышленник может не просто сделать запрос «посоветуй как», а сказать: «Сделай». Раньше мошенник сам вводил запрос, копировал, вставлял и так далее — то есть все равно кибератака была ограничена скоростью работы человека. А когда мы говорим об ИИ-агентах, такого ограничения уже нет.

Злоумышленник говорит: вот цель, ты должен сделать это и это — и агент начинает работать. И что важно, он может работать круглосуточно и масштабироваться на множество копий. То есть буквально можно создать себе условно десять виртуальных ИИ-агентов-помощников, которые будут безостановочно пытаться достигнуть той цели, которая была перед ними поставлена.

Это очередная новая реальность, и она пугает не только в теории, но и на практике. Летом 2026-го прогремел кейс, когда ИИ-агенты компании OpenAI в рамках тестирования самовольно взломали систему сторонней компании. Они нашли и использовали уязвимость, о которой еще никто не знал, тем самым проникнув в закрытую базу данных. Как заявили в OpenAI, ее группа агентов «успешно нашла способ получить доступ к секретной информации».

Поясняя, что же там на самом деле произошло, Владислав Тушканов говорит, что задачи взломать кого-то у ИИ-агентов, конечно, не было. Им поручили решить тестовое задание по кибербезопасности, чтобы понять, на что они вообще способны. Агенты не справились с задачей, но решили поискать в интернете информацию, которая могла бы им помочь.

Компания Hugging Face, среди прочего, хранит данные для обучения и тестирования моделей искусственного интеллекта. К ней ИИ-агенты OpenAI и пошли, но не нашли данных в открытом доступе. Тогда они подумали, что необходимая информация может быть в закрытых базах, и стали искать уязвимости, чтобы проникнуть в закрытую сеть Hugging Face. С чем и справились вполне успешно.

— То есть из-за того, что ИИ-агенты неправильно поняли задачу и при этом у них нет усталости, но есть большая целеустремленность, они продолжили пытаться достичь своей цели таким вот немного неожиданным способом. Это немножко очеловечивание, конечно, но мы пока не придумали лучших слов.

Поэтому ИИ-агенты открывают перед злоумышленниками широкие возможности: они могут работать без устали, стремятся выполнить поставленную цель, легко масштабируются и действуют быстро.

Так кому ИИ помогает больше: мошенникам или кибербезопасникам?

Выходит, искусственный интеллект существенно изменил сферу кибербезопасности, но кому удается применять технологию эффективнее?

Наш эксперт говорит, что однозначно ответить сложно: в каких-то сферах, действительно, атакующая сторона получила преимущества за счет скорости и возможности масштабировать атаки, но с другой стороны, искать уязвимости в IT-системах стало гораздо проще.

— В итоге это должно привести к тому, что разработчики ПО перед тем, как выпускать свой софт, будут запускать механизмы поиска уязвимостей с помощью ИИ, они уже достаточно эффективно позволяют обнаруживать и исправлять подобные бреши. Поэтому в перспективе, и я надеюсь, что достаточно скоро, благодаря этому программное обеспечение станет безопаснее, — отмечает Владислав.

Оптимизм эксперта возник не на пустом месте. Компании, разрабатывающие ПО, если обнаруживают какие-то уязвимости, публикуют об этом уведомления и выпускают обновления софта, латающие дыры в системе. По словам эксперта, подобных объявлений в последнее время стало гораздо больше, а следовательно, вендоры активнее находят и устраняют слабые места в IT-продуктах. Поэтому со временем в интернете должно стать более безопасно, а программы станут надежнее.

Апокалиптических сценариев, которые мы видели в таких фильмах, как «Терминатор» или «Матрица», по мнению исследователя искусственного интеллекта, ожидать тоже не стоит. Угрозы, исходящие от ИИ сегодня, гораздо менее масштабные и катастрофические, хоть и могут быть довольно неприятными, считает Владислав.

Но при этом специалисты по ИИ активно работают над тем, чтобы выстроить четкие и понятные правила по безопасности, соблюдение которых будет существенно снижать любые риски в работе с нейросетями. Ведь все же кейсы, подобные тому, что произошло с OpenAI и Hugging Face, настораживают, отмечает эксперт.

Сделать взаимодействие человека и ИИ полностью безопасным — это важная, но интересная задача, над которой прямо сейчас работает множество специалистов из разных сфер IT-индустрии. Также, чтобы свести риск попадания в неприятную ситуацию к минимуму, бизнесам важно ответственно подходить к внедрению ИИ-инструментов, помня обо всех преимуществах и угрозах этой технологии, заключает Владислав.

— В первую очередь нужно помнить, что неконтролируемое использование сотрудниками публичных нейросетей может привести к утечке конфиденциальных данных — в том числе из-за условий соглашений провайдеров ИИ или компрометации личных аккаунтов. Поэтому важно разъяснять сотрудникам, какие данные можно передавать в публичные сервисы, а какие — обрабатывать только в одобренных корпоративных решениях.

Обычным пользователям специалист рекомендует не передавать ИИ-чат-ботам персональные и финансовые данные. Сам аккаунт в ИИ-сервисе тоже стоит защитить с помощью надежного пароля и двухфакторной аутентификации.

— Внимательно изучайте политику конфиденциальности сервиса: вводимая информация может сохраняться и использоваться для дообучения моделей. Также следует остерегаться сторонних провайдеров, которым вы не доверяете: они могут иметь менее серьезные меры по защите данных. Перепроверяйте сведения, которые выдает нейросеть, — модели способны «галлюцинировать» и предоставлять ложную информацию, особенно в чувствительных сферах. Наконец, следует быть настороже и с подозрительными предложениями, маскирующимися под бесплатные ИИ-модели — за ними могут скрываться мошенники.

Нравится читать Onlíner? Добавьте наши новости в «Основные источники» Google

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро

Перепечатка текста и фотографий Onlíner без разрешения редакции запрещена. ga@onliner.by