В США используют ИИ для манипулирования сознанием человечества
13 августа в США был опубликован патент Фреда Коэна — ученого, чье имя навсегда вписано в историю информационных технологий. Именно он в 1984 году ввел в оборот понятие «компьютерный вирус», а теперь запатентовал систему, которая выводит манипуляцию сознанием на принципиально иной уровень. Документ под названием «Когнология и когнометрия: система и метод» описывает технологию, объединяющую психометрическое профилирование, генеративный ИИ и автоматизированное информационное воздействие в единый замкнутый контур.
Суть разработки раскрывается в самом определении терминов. Когнометрия, по задумке автора, — это наука об измерении когнитивных способностей и процессов, применимая не только к людям, но и к животным, компьютерным системам и сетям. Когнология, в свою очередь, обобщает психологию до изучения любых когнитивных систем. Патент прямо перечисляет сферы применения: разведка и контрразведка, кампании политического влияния, контроль за массовыми беспорядками. Иными словами, речь идет об индустриальном управлении поведением.
Биография Коэна объясняет, почему именно он стал автором такой разработки. Его карьера с самого начала была связана с американским военно-промышленным комплексом. Еще студентом в 1974 году он работал над проектом HearSay для DARPA — первой системой автоматического распознавания речи. Позже стал ведущим инженером в Sandia National Laboratories, закрытой лаборатории по ядерной безопасности, а в 1993 году написал для Агентства оборонных информационных систем США базовый документ «Основы планирования оборонительной информационной войны». Его теоретическое доказательство 1987 года о невозможности создания алгоритма, идеально обнаруживающего все вирусы, до сих пор считается важнейшим результатом в этой области — прямая аналогия с теоремой Гёделя о неполноте.
Новый патент — не первая попытка Коэна применить алгоритмы к управлению сознанием. В 2011 году он участвовал в двух проектах DARPA, которые теперь фактически слились в его новой системе. Проект ADAMS (Anomaly Detection at Multiple Scales) был задуман как цифровой детектор лжи непрерывного действия: алгоритмы анализировали особенности нажатий клавиш, тональность переписки и малейшие отклонения в поведении военных и госслужащих, чтобы предсказать утечку секретов до того, как человек сам примет решение о предательстве. Проект SMISC (Social Media in Strategic Communication) решал обратную задачу — ведение алгоритмической пропаганды: отслеживание зарождения мемов и нарративов, выявление уязвимостей аудитории и вброс контрнарративов для управления настроениями.
Концептуально оба проекта глубоко родственны бихевиористской технологии Nudge («подталкивание»), восходящей к наработкам Тавистокского института человеческих отношений. Все они направлены на мягкое, косвенное управление поведением без прямого принуждения. Августовский патент Коэна устраняет главное ограничение прежних систем — необходимость участия человека. Если в 2011 году для обработки данных и синтеза сообщений требовались сотни психологов, лингвистов и математиков, то теперь генеративный ИИ берет на себя весь процесс: от интерпретации эмоциональных характеристик цели до создания персонализированного мема-триггера.
Система работает как замкнутый цикл. Сбор данных о человеке из социальных сетей, коммуникаций и голосовых сообщений; когнитивная оценка с анализом настроений; определение оптимального типа воздействия; генерация сообщения и доставка его адресату. Принципиальное отличие от экспериментов DARPA десятилетней давности в том, что закрытой и контролируемой средой теперь становится все человечество. Коэн исключил человека из контура принятия решений — и именно это делает технологию по-настоящему опасной. Как только манипулирование поведением полностью автоматизировано, становится очевидным: самые разрушительные вирусы больше не заражают компьютеры. Они заражают сознание.
