22 октября 2025 года было опубликовано открытое письмо с призывом запретить разработку сверхразумного ИИ, которое подписали более 700 ученых в области ИИ, религиозных лидеров и политиков.
Среди подписавших – пять лауреатов Нобелевской премии; два «крестных отца ИИ» Джеффри Хинтон и Йошуа Бенжио; соучредитель Apple Стив Возняк; бывший советник Дональда Трампа Стив Бэннон; Паоло Бенанти, советник папы римского Паоло Бенанти и даже Гарри и Меган, герцог и герцогиня Сассекские.
В открытом письме говорится: «Мы призываем к запрету на разработку сверхразума, который не должен быть снят до тех пор, пока не будет достигнут широкий научный консенсус относительно того, что это будет осуществляться безопасно и контролируемо, а также не будет получена широкая общественная поддержка».
Письмо было подготовлено и опубликовано американской НПО Future Life Institute, которая в 2023 году опубликовала другое открытое письмо с призывом к шестимесячной паузе в разработке мощных систем искусственного интеллекта. Несмотря на широкое распространение, это письмо не достигло своей цели.
Новый призыв взять под контроль гонку ИИ был опубликован в преддверии открытых дебатов в Совбезе ООН по теме «Искусственный интеллект и международный мир и безопасность».
«В течение трёх часов каждая страна по очереди твердила примерно одно и то же: ИИ может принести как пользу, так и вред. Раз за разом представители заявляли, что ИИ – это не научная фантастика, а реальность современной жизни и что необходимо немедленно разработать международные нормативные рамки, особенно в отношении автономного оружия и ядерного оружия.
Одна из самых интересных точек зрения поступила из Белоруссии, которая обратила внимание на растущее глобальное неравенство в развитии ИИ. “Создаётся новый занавес, на этот раз не идеологический, а технологический… чтобы разделить Запад и остальной мир и ввергнуть страны с преобладающим мировым большинством в эпоху неоколониализма», – заявил представитель [Белоруссии]. – Это ведёт к тупику и пропасти. ИИ должен быть доступен всем без исключения странам”», – пишет журнал Time.
«Развитие ИИ неостановимо, но его можно контролировать», – оптимистично заявил премьер-министр Испании Педро Санчес.
«Впервые каждая страна будет иметь место за столом переговоров по ИИ», – заявил Генеральный секретарь ООН Антониу Гутерриш. Он также объявил об открытии приёма заявок на вступление в новую Международную независимую научную группу по ИИ, призванную предоставлять беспристрастные научные данные о воздействии этой технологии. «Вскоре я начну консультации с государствами-членами, потенциальными спонсорами и партнёрами по вопросу создания Глобального фонда развития потенциала в области ИИ», – добавил Генсек ООН.
Напомним, что 26 августа 2025 года Генеральная Ассамблея ООН единогласно приняла Резолюцию A/RES/79/325, известную как «Резолюция по модальностям ИИ». Этот документ учреждает два новых механизма глобального управления искусственным интеллектом – Независимую международную научную панель по ИИ и Глобальный диалог по управлению ИИ.
Международная научная панель состоит из 40 экспертов и будет ежегодно представлять научные обзоры и оценки, касающиеся особенностей развития ИИ во всем мире.
Глобальный диалог по управлению ИИ станет открытой дискуссионной платформой, собирающей государства, технологические компании, гражданское общество и другие заинтересованные стороны для обсуждения вопросов безопасности, прозрачности, уменьшения цифрового разрыва и открытого исходного кода.
Если усилия объединенных наций увенчаются успехом, то компании, занимающиеся развитием ИИ, будут обязаны, как в медицине, так и в атомной энергетике доказать безопасность технологии, прежде чем выпускать ее на рынок.
В США уже предпринимаются попытки регулировать исследования ИИ.
1 июля 2025 года Сенат США проголосовал за исключение моратория на государственное регулирование искусственного интеллекта из законопроекта президента Трампа «Один большой красивый законопроект», что стало серьезным поражением для технологической отрасли, которая активно лоббировала сохранение этого положения в масштабном пакете налогов и расходов, как отмечает журнал Time.
«Законодатели проголосовали 99 голосами против 1 на ночном заседании за отмену этого положения, приняв поправку, внесенную Маршей Блэкберн, республиканкой из Теннесси, которая ранее порвала со своей партией из-за этого вопроса», – пишет издание.
Такие компании, как OpenAI и Google, ранее выступали в поддержку запрета государствам регулировать ИИ, чтобы избежать, по их словам, нагромождения правил, которые могли бы препятствовать инновациям.
За отмену моратория выступило большинство сенаторов от Демпартии, а также ряд сенаторов-республиканцев, таких как сенатор от штата Миссури Джош Хоули, сенатор от штата Кентукки Пол Рэнд и инициатор отмены моратория Марша Блэкберн,
В такой ситуации руководство республиканцев под угрозой потери ряда членов своей партии приняло решение голосовать за отмену моратория, действовавшего в течение последних десяти лет.
Сопротивление лоббистов технологической мафии США было сломлено благодаря активному давлению на законодателей со стороны правозащитных организаций, в основном левых.
Группа из 140 правозащитных организаций опубликовала открытое письмо, в котором утверждалось, что сохранение моратория защищает технологические компании от государственного регулирования. «Расплывчатые стандарты, установленные в моратории, предоставят технологическим гигантам чёткий путь для оспаривания практически любого закона штата в суде», – говорилось в письме.
Стивен Бэннон рассказал в своём подкасте WarRoom, что сам звонил Марше Блэкберн по поводу отмены моратория, который, по его мнению, угрожает правам штата. Анджела Пакстон, сенатор от штата Техас и влиятельный член движения MAGA, «яростно выступила против этого моратория, как и адвокат Майк Дэвис, основатель консервативной правозащитной организации Article III Project».
Однако отмена моратория на госрегулирование ИИ вовсе не означает, что исследования в этой сфере в Америке будут подконтрольны ООН.
Летом прошлого года команда Дональда Трампа разработала «масштабный указ об ИИ, который запустит серию “Манхэттенских проектов” по разработке военных технологий и немедленной отмене “ненужного и обременительного регулирования”, что свидетельствует о том, что потенциальная вторая администрация Трампа может проводить политику в области ИИ, выгодную инвесторам и компаниям Кремниевой долины», – написала тогда The New York Times.
Законодательное разрешение государственного регулирования ИИ-отрасли означает, что, как пишет Time, Конгресс США сосредоточится на борьбе с «конкретным вредом», как, к примеру, «распространение неконсенсуальной глубокой фейковой порнографии». Новые инструменты ИИ позволили злоумышленникам «сексуализировать и унижать молодых женщин одним нажатием кнопки. Эти изображения быстро распространились по интернету и в некоторых случаях использовались как инструмент вымогательства».
А вот внедрение ИИ в вооружения и военную технику будет лишь ускоряться и совершенствоваться.
В августе 2023 года в Пентагоне была создана оперативная группа «Лима» (Task Force Lima) для изучения применения генеративного искусственного интеллекта в военных целях. «Лима» вошла в состав Главного управления цифровых технологий и искусственного интеллекта Пентагона (CDAO), её возглавил член управления алгоритмической войны CDAO капитан Ксавьер Луго.
Как заявили в Минобороны США созданная группа «будет оценивать, синхронизировать и использовать генеративные возможности искусственного интеллекта, гарантируя, что министерство останется на переднем крае передовых технологий, одновременно обеспечивая национальную безопасность».
Запрос Пентагона на оборонный бюджет в размере $1,01 трлн на 2026 финансовый год включает рекордные инвестиции в размере $13,4 млрд долларов в развитие ИИ и автономных систем вооружений – это первый случай, когда Министерство обороны США выделило отдельную статью бюджета на эти направления.
Проект военного бюджета предусматривает целевое финансирование беспилотных систем и интеграции в них ИИ. Из $13,4 млрд $9,4 млрд выделены на беспилотные летательные аппараты, $1,7 млрд – на морские автономные платформы, $734 млн – на подводные системы, $210 млн – на автономные наземные транспортные средства и $1,2 млрд – на программное обеспечение и междоменную интеграцию. Кроме того, $200 млн выделяются на технологии ИИ. При этом ИИ в Пентагоне рассматривают как основу будущей военной готовности.
«Чтобы стимулировать развитие автономного оружия, палата представителей и Сенат США приняли ряд законопроектов, требующих от Пентагона удвоить усилия по развитию ИИ, интегрировать его в повседневные задачи и использовать для максимального повышения “боевой эффективности бойцов”. Законопроекты также предписывают военным относиться к малым беспилотникам как к одноразовым боеприпасам, а не как к многоразовым летательным аппаратам, что может привести к значительному увеличению расходов на эти аппараты», – пишет французский журнал Jacobin.
Закон о национальной обороне на 2026 год, определяющий ежегодную политику Пентагона, недавно был принят палатой представителей, согласно которому не менее $4,7 млрд выделено на инвестиции в беспилотники, ИИ и квантовые вычисления. Версия, впоследствии принятая сенатом, увеличивает расходы на беспилотники и ИИ до $5,6 млрд.
Таким образом, невзирая на все призывы о государственном контроле над ИИ-отраслью и благие намерения ООН, США открывают рекордное финансирование военного ИИ. Все разработки боевого ИИ будут, понятное дело, засекречены, и эксперты ООН никогда о них не узнают, кроме тех вполне ожидаемых случаев, когда боевые технологии ИИ просочатся в гражданскую сферу.
Китай не захочет отставать от США и также нарастит финансирование боевых систем ИИ.
За двумя лидерами гонки военного ИИ потянутся и другие страны.
ООН будет заниматься выработкой рекомендаций по регулированию компьютерного сверхразума, но триллионы долларов, которые уже вброшены на разработку боевых систем ИИ, эти рекомендации если даже услышат, то проигнорируют.
