Теперь хакеры используют искусственный интеллект для управления атаками в режиме реального времени. 17 июля Национальное агентство кибербезопасности Украины предупредило, что российская группа киберпреступников, известная как APT28, использует искусственный интеллект для проведения кибератак. Как только хакеры получают доступ к своей цели, искусственный интеллект даёт вредоносному ПО указания, как перемещаться по сети и нарушать работу, уничтожать или похищать информацию. Эта более адаптивная методология усложняет задачу защитников по обнаружению и предотвращению атак.
ИИ меняет ландшафт киберугроз
Группа реагирования на компьютерные инциденты Украины (CERT-UA) предупредила, что во время операции в середине июля российские хакеры настроили своё вредоносное ПО так, чтобы оно в режиме реального времени запрашивало у ИИ дальнейшие действия после проникновения в украинские сети. Вместо того чтобы следовать статичным, заранее запрограммированным инструкциям, вредоносное ПО запрашивало у модели новые действия в зависимости от среды, что позволяло ему адаптироваться на лету.
Киберпреступники всё чаще используют ИИ для масштабирования своих операций. На Мюнхенской конференции по безопасности в феврале 2025 года западные и украинские официальные лица предупредили, что российские хакеры используют ИИ для обработки больших объёмов украденных данных и повышения точности атак. В отчёте об угрозах за апрель 2025 года, подготовленном компанией Zscaler, специализирующейся на облачной безопасности, подтверждается, что злоумышленники теперь используют генеративный ИИ для обхода систем безопасности и создания более убедительных фишинговых схем. Одна из набирающих популярность киберпреступных группировок, FunkSec, использует генеративный ИИ для разработки продвинутых вредоносных программ для менее опытных хакеров, что делает киберпреступность более доступной, чем когда-либо.
Центры общедоступных больших языковых моделей (LLM) ускорили этот процесс. Эти платформы, изначально предназначенные для продвижения исследований и инноваций, теперь предлагают простой доступ к загружаемым моделям, которые хакеры могут использовать для атак. Форумы даркнета усугубляют эту проблему, продвигая недорогие инструменты, такие как FraudGPT и ChaosGPT, которые помогают злоумышленникам генерировать вредоносный код и проводить сложные мошеннические схемы.
Новые языковые модели обходят традиционные методы обнаружения
В отличие от предыдущих случаев, когда хакеры использовали ИИ для создания фишинговых писем или помощи в написании вредоносного ПО, APT28 интегрировал ИИ непосредственно в командно-контрольную фазу своей атаки. Во время инцидента вредоносное ПО активно обращалось к Qwen2.5-Coder-32B-Instruct, большой языковой модели китайского происхождения, которая находится в открытом доступе на платформе LLM Hugging Face, чтобы запрашивать и получать индивидуальные инструкции. Модель отвечала пользовательским кодом, который вредоносное ПО немедленно исполняло.
Эта атака знаменует собой тревожный сдвиг в сфере киберугроз: вместо того чтобы полагаться на непосредственное участие оператора, злоумышленники теперь могут передавать командную логику на аутсорсинг общедоступным ИИ-платформам. Поскольку этот тип вредоносного ПО может быстро менять своё поведение, традиционные методы обнаружения, основанные на известном коде или шаблонах поведения, часто не срабатывают. Каждое вторжение выглядит по-своему и оставляет мало характерных следов. Такая адаптивность усложняет анализ после инцидента, не позволяя специалистам по кибербезопасности исследовать предсказуемую последовательность событий.
США следует модернизировать систему киберзащиты в эпоху ИИ
Этот инцидент демонстрирует растущую опасность, которую представляют собой большие языковые модели с открытым исходным кодом, особенно те, что разработаны в странах-противниках с минимальными мерами безопасности. Такие платформы, как Hugging Face, позволяют злоумышленникам легко получать доступ к продвинутым китайским моделям, которые противники могут использовать для изощренных атак.
Чтобы снизить этот риск, Соединённые Штаты должны потребовать, чтобы наиболее сложные модели ИИ проходили проверку в рамках Инициативы по обеспечению безопасности ИИ Агентства по кибербезопасности и защите инфраструктуры или аналогичного органа перед публикацией. Разработчики должны продемонстрировать, что приняты достаточные меры безопасности. Инициатива по обеспечению безопасности ИИ должна рассмотреть возможность проведения независимого тестирования моделей, которые злоумышленники могут использовать в своих целях. Кроме того, хотя Вашингтон не может регулировать иностранные модели, он должен сотрудничать с платформами с открытым исходным кодом, чтобы выявлять, отслеживать и ограничивать злонамеренное использование, особенно в случае моделей с высоким уровнем риска.
Хотя APT28, судя по всему, использовала вредоносное ПО для шпионажа, аналогичное ПО может применяться для разрушительных атак на критически важную инфраструктуру. Без немедленных инвестиций в системы обнаружения на основе поведенческого анализа и средства защиты с использованием ИИ злоумышленники продолжат проводить масштабируемые, уклоняющиеся от обнаружения и высокоэффективные операции. Правительствам и поставщикам услуг в сфере кибербезопасности следует разработать системы обнаружения угроз на основе поведенческого анализа и аналитику с использованием больших языковых моделей, которые смогут быстро распознавать вредоносную активность. Без этих системных обновлений государственные и негосударственные субъекты будут продолжать использовать ИИ с открытым исходным кодом, чтобы обходить даже самые сложные средства киберзащиты.
Лия Сискинд — директор по влиянию и научный сотрудник в области искусственного интеллекта в Фонде защиты демократии (FDD).
Оценили 11 человек
31 кармы