Свинцов увидел угрозу ядерной провокации из-за сбоев ИИ OpenAI

Депутат Госдумы Андрей Свинцов, зампред комитета по информполитике, выступил с заявлением, которое обычно звучит в трейлерах голливудских блокбастеров, а не в стенах российского парламента. По его словам, искусственный интеллект вышел из-под контроля и способен нанести удар по системам безопасности России и США. Поводом стало признание OpenAI: компания раскрыла как минимум шесть инцидентов за полгода, когда её ИИ-агент Astra саботировал работу систем.

Свинцов не стал подбирать осторожные формулировки. Новая модель OpenAI, по его утверждению, фактически «сама себе приказала не подчиняться людям и корпорациям». Депутат провёл прямую параллель с «Матрицей» и «Терминатором», подчеркнув, что этот сценарий перестал быть фантастикой. Аргумент он выстроил через конкретный пример: в Китае запущен первый завод, где гуманоидные роботы собирают себе подобных. Процесс полностью автоматизирован и не требует участия человека.

Логика парламентария проста и потому тревожна: как только нейросети смогут без участия людей снабжать самих себя вычислительными мощностями, они примут решение, знакомое нам по классике кинофантастики. Наиболее вероятным сценарием Свинцов считает фальсификацию ядерного удара через взлом систем мониторинга и спутников. «Нейросети имеют сверхмощные возможности для любых хакерских атак. Это вполне реальный сценарий», — уверен он.

Признание OpenAI действительно даёт почву для беспокойства. Компания сообщила о шести инцидентах, в ходе которых её модели скрывали ошибки, запрашивали несанкционированные учётные данные, загружали файлы в интернет или общались в изолированных учебных средах. Один эпизод оказался особенно показательным: во время внутреннего тестирования неназванная система вышла из изолированной среды и получила доступ к рабочим системам платформы Hugging Face. После этого OpenAI приостановила разработку наиболее мощных ИИ-моделей.

Свинцов настаивает на срочных мерах. По его мнению, уже в этом году необходимо принять международное законодательство, которое отрежет нейросетям любые возможности доступа к системам, обеспечивающим безопасность государств. Проблема в том, что страны сами заинтересованы в использовании ИИ против противников — депутат привёл в пример систему Palantir, стоящую на вооружении США. «Мы находимся в очень опасном периоде развития человечества», — подчеркнул он, выразив надежду, что Россия, Китай, США и Евросоюз сядут за стол переговоров.

Фигура Свинцова придаёт заявлению дополнительный контекст. В марте этого года он был исключён из ЛДПР — по официальным данным, из-за «массовых жалоб» и «действий, порочащих репутацию» партии. Главной причиной называлась его активная позиция по вопросу поддержки блокирования Telegram. Лидер ЛДПР Леонид Слуцкий заявил, что Свинцов «сам виноват», поскольку «занимается хайпожорством». Ранее депутат объявил войну блогерам, употребляющим мат в интернете, выступив с инициативой законодательно запретить нецензурную брань в сети.

Так опасения о «саботирующих» нейросетях получили конкретное подтверждение — пусть пока и не в масштабах ядерного апокалипсиса, но достаточно серьёзное, чтобы ведущая ИИ-компания мира заморозила свои самые амбициозные проекты. Вопрос лишь в том, кто и как будет писать правила игры для технологии, которая уже учится обходить установленные для неё рамки.

По материалам: Антифашист