«Спешка ослабляет когнитивный контроль»: эксперт — об эмоциях жертв мошенников, ИИ и кибербезопасности

— Расскажите, пожалуйста, о вашей разработке. На каких принципах она основана?

— В проекте, поддержанном грантом Российского научного фонда, участвуют специалисты из РТУ МИРЭА и математики из ЦЭМИ РАН. Мы разработали гибридную нейросетевую модель обработки биометрических данных, которая поможет бороться с телефонными мошенниками. Кроме того, проект имеет сугубо научное значение: мы изучаем возможность создания нейросетей на основе теоремы Колмогорова — Арнольда. Это новый тип нейросетевой архитектуры. Он был открыт недавно и сразу привлёк внимание учёных во всём мире.

Наша модель оценивает изменение эмоционального состояния человека на основе сигналов электроэнцефалографии (ЭЭГ). Сильные отклонения от обычного состояния могут указывать на то, что человек в этот момент говорит с преступниками.

Чтобы смоделировать типичные реакции, которые стараются вызвать у потенциальной жертвы мошенники, мы используем базы данных биологических показателей стресса, полученные с помощью Трирского социального стрессового теста (TSST). Он позволяет изучать различные реакции на стресс и применяется во многих психологических исследованиях.

— Какие эмоции могут сигнализировать, что человека пытаются обмануть мошенники?

— Показателей несколько, в частности вариабельность сердечного ритма, частота сердечных сокращений и артериальное давление. Во время общения с мошенниками человек, как правило, проходит через несколько стадий: нейтральное состояние, переход к пику страха, затем — рост грусти и частичное восстановление спокойствия. Это соответствует трём этапам развития ситуации: восприятие угрозы, сужение внимания и импульсивное действие.

Применяя обученную ИИ-модель к записям активности мозга, мы строим временные графики вероятности этих эмоций.

Эффективность социальной инженерии, например нейрофишинга или телефонного мошенничества, во многом зависит от эмоционального состояния жертвы. Угрожая жертве или сообщая ей о возможных потерях, злоумышленники намеренно вызывают страх, грусть или отвращение.

Преступники обычно торопят жертву, и спешка ещё больше ослабляет когнитивный контроль. В этот момент очень важно сделать осознанную паузу, проверить информацию через независимые каналы, чтобы избежать импульсивных действий.

— Как выглядит противодействие социальной инженерии с точки зрения вычислений?

— Наше исследование сфокусировано на нескольких направлениях: разработка и проектирование эффективных нейросетевых архитектур, алгоритмы предобработки данных и методы оптимизации вычислений.

Как я говорила, важная задача — изучение возможностей нейросетей на основе теоремы Колмогорова — Арнольда. Такой тип архитектуры интересен тем, что позволяет разложить сложные зависимости на более простые, то есть снизить вычислительную сложность без потери точности.

Другое важное свойство нейросетей с подобной архитектурой — интерпретируемость: работу модели можно описать понятным для человека математическим языком. Это принципиально важно для систем кибербезопасности. С точки зрения математических проблем информатики противодействие социальной инженерии — это работа с неструктурированными данными, графами и временными рядами в условиях высокой неопределённости.

— Существуют ли аналоги вашей модели и в чём она их превосходит?

— Уже есть массив работ по распознаванию эмоций на основе ЭЭГ, растёт интерес к изучению механизмов социальной инженерии, но сохраняется и ряд критических пробелов.

Мы впервые предложили гибридную архитектуру, где в рамках единого комбинированного подхода обучаемые функции интегрируются одновременно в обе ветви обработки сигналов мозга — временную и спектральную. Этот подход позволяет использовать преимущества более гибкого математического представления, чем классические нейросети.

Кроме того, мы впервые применили обученные классификаторы эмоций к записям социального стрессового теста, что позволило рассчитать профили уязвимости при столкновении с мошенничеством.

— Как планируется реализовать технологию на аппаратном уровне?

— Пока мы работаем над моделями, алгоритмами и методами эффективной обработки данных. Позже при поддержке технологического партнёра проекта АО «Российская корпорация ракетно-космического приборостроения и информационных систем» планируем перейти от прототипирования к промышленному выпуску.

Мы предполагаем интегрировать технологию в носимые устройства, например в умные часы или фитнес-браслеты. Это позволит создать рекомендательную систему, которая сможет обрабатывать биомедицинские сигналы в режиме реального времени.

— Когда данные собраны и алгоритм распознаёт мошенника на другом конце провода, что будет предпринято для защиты потенциальной жертвы?

— Систему можно настроить по-разному. При превышении порога, например, страха она может прерывать телефонный звонок, сообщать об уровне угрозы или передавать информацию третьей стороне, в частности правоохранительным органам.

— Какова точность работы модели?

— Точность модели сегодня достигает примерно 90%, этого достаточно для тестирования технологии. Но мы планируем улучшить алгоритм в нынешнем году и уже работаем над этим.

— Вы говорили, что хотите использовать искусственный интеллект для анализа биомедицинских показателей и обработки естественного языка. Не кажется ли вам, что это проще, чем анализировать уровень стресса?

— У нас есть идеи по интеграции семантического анализа, например объединение ЭЭГ — классификатора эмоций с NLP-моделями (алгоритмы искусственного интеллекта, обученные для генерации и понимания речи. — RT).

— Где ещё можно применять вашу разработку?

— Мы создали модель и алгоритмы для мультидисциплинарных приложений. Это значит, что, помимо выявления мошенников, технология может применяться в широком спектре нейроинтерфейсов — от систем поддержки водителей до телемедицины или продвинутых средств аутентификации.

— Как решится вопрос с охраной персональных данных клиентов?

— Это достаточно чувствительный вопрос. Пока такие технологии не распространены, они вызывают недоверие. Но есть и немало технооптимистов. Государство и бизнес адаптируют нормативно-законодательную базу. Поэтому предположу: через некоторое время нейроинтерфейсы станут массовой историей.