Google GTIG остановила первый ИИ-эксплойт нулевого дня против 2FA в веб-админке

Первый ИИ-эксплойт нулевого дня: почему ваша двухфакторка под угрозой

Google впервые перехватила эксплойт нулевого дня, целиком сгенерированный ИИ. Атака была нацелена на двухфакторную аутентификацию (2FA) в открытом веб-приложении для администрирования. Исследователи из GTIG остановили её до того, как она стала массовой. Но детали заставляют пересмотреть отношение к безопасности.

Эксплойт был написан на Python. В коде нашли характерные следы работы большой языковой модели (LLM): вымышленную оценку критичности по шкале CVSS и «учебное» форматирование. Оценка CVSS оказалась сгенерированной моделью — её нет в реальных базах уязвимостей. Структура кода повторяла шаблоны из обучающих данных LLM. Другими словами, ИИ создал рабочий эксплойт, даже не обращаясь к живым источникам.

Как ИИ-модель выдала себя — почерк в коде

Эксперты Google сразу заметили аномалию. В нормальном эксплойте оценка CVSS берётся из официальных бюллетеней. Здесь она была просто придумана. А ещё — идеально чистые комментарии, лишённые человеческих опечаток. Такое бывает только в сгенерированных учебных примерах. Личное наблюдение автора: недавно я смотрел код одного стартапа — их нейросеть тоже оставляла «идеальные» строки. Это как подпись: человек всегда косячит, машина — нет.

Но главное не в этом. Уязвимость оказалась не банальной ошибкой ввода-вывода, а логической дырой. Разработчик запрограммировал допущение: «этот компонент системы всегда заслуживает доверия». И не стал его перепроверять. Именно через этот компонент злоумышленники обходили 2FA. Просто, как отмычка к замку, который забыли запереть.

Самое опасное в этом инциденте — не сам эксплойт, а то, что ИИ научился генерировать код, используя выдуманные оценки уязвимостей. Это значит, что он может создавать атаки без привязки к реальным базам — автономно.

Новая тактика хакеров: ролевой обман и OpenClaw

Google Threat Intelligence отмечает тренд: злоумышленники атакуют не только с помощью ИИ, но и саму инфраструктуру ИИ-систем. Они используют ролевой обман — формулируют запрос так, чтобы модель представила себя экспертом по безопасности. Так обходят встроенные ограничения. Кроме того, хакеры загружают в модели целые базы уязвимостей и применяют инструмент OpenClaw для отладки вредоносных программ в контролируемых средах. Только после этого атаку разворачивают на реальные цели.

В данном случае Google не раскрыла, какое именно приложение стало мишенью. Но уточнила: ИИ Gemini при создании эксплойта не использовали. Значит, модель могла быть любой открытой LLM, которую хакеры «обучили» на своих данных.

Пошаговый совет: как защититься от атак на 2FA

Если вы системный администратор или просто отвечаете за безопасность в компании, вот конкретные шаги. Не надейтесь только на двухфакторку. Вот что работает сегодня:

• Проверяйте логику доверия. Пересмотрите все компоненты, которые имеют доступ к 2FA без дополнительной проверки. Если какой-то модуль считается надёжным по умолчанию — это потенциальная дыра.
• Мониторьте подозрительные оценки CVSS. Если в коде эксплойта или отчёте о тестировании появляется оценка, которой нет в официальной базе NVD — это красный флаг.
• Ограничьте автономные функции ИИ-агентов. Не давайте внешним модулям доступ к критическим данным без ручного подтверждения.
• Тестируйте защиту от ролевого обмана. Используйте промпты-ловушки: просите модель не выполнять определённые действия, даже если её представляют экспертом.

Простого «включил 2FA и спи спокойно» больше не существует. Логика приложения должна быть защищена на уровне архитектуры.

Сравнение: типичный эксплойт против ИИ-эксплойта

Вывод от автора. Первый ИИ-эксплойт нулевого дня — это не страшилка, а реальный сигнал. 2FA сама по себе не спасёт, если в коде заложена логическая брешь. ИИ теперь умеет не только помогать с кодом, но и атаковать. Время слепой веры в «умные» системы прошло. Проверяйте логику — и не давайте злоумышленникам шанса воспользоваться вашими же допущениями.