Это уже не фантастика: как защититься от ИИ-мошенников и deepfake-угроз

Deepfake уже грабит компании: как работают голосовые подделки и что с этим делать

Бухгалтер получил голосовое сообщение от директора. Тон, паузы, манера — всё как в жизни. Директор просил срочно перевести 220 тысяч евро на новый счёт. Деньги ушли. Директор не звонил. Это не сценарий фильма — реальный случай из Великобритании. И таких уже сотни.

Технология deepfake стремительно дешевеет. Ещё три года назад требовалась команда специалистов и бюджет в десятки тысяч долларов. Сейчас достаточно пары минут видео с YouTube и бесплатного онлайн-сервиса. Мошенники это поняли раньше, чем регуляторы.

Самое страшное — не видео, а голос. Мы инстинктивно доверяем голосу. Видео можно пересмотреть — звонок проверяют редко.

Как нейросети подделывают реальность

Deepfake — это работа генеративных нейросетей. Алгоритм учится на исходнике: фото, видео, аудио. Чем больше материала — тем точнее копия. Современные модели захватывают микродвижения губ, моргание, дыхание. Результат — человек, которого не отличить от оригинала.

Особенно опасны голосовые deepfake. В США за один месяц компания Clarity зафиксировала более 100 попыток мошенничества с фейковыми голосами родственников. Злоумышленники звонят пожилым людям: «Мам, я попал в аварию, срочно нужны деньги». Голос — достоверный. Жертвы не проверяют.

Но не только люди страдают. В Японии был случай: ИИ-бот техподдержки начал предлагать клиентам несуществующие продукты. Причина — отравление данных. Кто-то специально подсунул в общедоступный датасет ложные обращения. Алгоритм научился на искажённой информации — и начал генерировать токсичный контент.

Недавно я заметил, как коллега на созвоне переспросил: «Ты сегодня странно говоришь, не болеешь?». Оказалось, у собеседника была простуда. Но этот случай показал: мы уже привыкли к идеальному голосу ИИ. Любое отклонение воспринимаем как ошибку. А наоборот — нужно насторожиться.

Типы угроз и способы защиты: краткая таблица

Пошаговый совет: как проверить звонок за 30 секунд

Получили срочную просьбу от начальника или родственника по телефону? Не паникуйте.

• Перезвоните на номер, который знаете лично, а не на тот, с которого поступил вызов.
• Задайте вопрос, ответ на который знаете только вы двое (дата последней встречи, имя общего знакомого).
• Попросите переслать запрос письменно на корпоративную почту или в мессенджер с двухфакторной аутентификацией.

Эти три шага уже отсекают 90% мошеннических атак. Злоумышленники давят на срочность — не дайте себя обмануть.

Регуляция отстаёт — это факт

Европейский союз только в этом году предложил законопроект об обязательной маркировке deepfake-контента. В Китае такие правила уже работают. В США — дискуссии. В остальных странах — полный вакуум. Мошенники этим пользуются.

Моё мнение: ждать, пока государство догонит технологии — глупо. Защищаться нужно сейчас. Цифровая гигиена — это не про пароли. Это про отношение к информации. Если видите «эксклюзивное» видео с политиком или слышите голос друга, который просит деньги — сначала проверьте, потом действуйте.

Кстати, некоторые стартапы уже предлагают API для обнаружения синтезированной речи в реальном времени. Например, Reality Defender. Исследователи из MIT Media Lab создали базу «обучающих ловушек» — специальных шаблонов, которые позволяют понять, что ИИ начал выдумывать. Но массово такие инструменты пока не распространены.

Коротко от автора

Deepfake — не фантастика и не шутка. Это рабочий инструмент преступников. Но паника тут не помощник. Хорошая новость: человеческое внимание и критическое мышление пока побеждают нейросети. Самый реалистичный фейк всегда чуть-чуть не настоящий. Главное — заметить это. А для этого нужно просто знать, куда смотреть. Теперь знаете. Действуйте.