Человечество торопливо создает собственного убийцу

Дискуссия о будущем искусственного интеллекта перестала быть академическим спором. Она превратилась в политическое противостояние, где на одной чаше весов — предостережения людей, стоявших у истоков технологии, а на другой — амбиции государств, не желающих терять ни секунды в гонке за превосходство.

Первым тревогу забил Джеффри Хинтон — «крестный отец ИИ», нобелевский лауреат по физике за фундаментальные работы в области искусственных нейронных сетей, которыми он занимается с 80-х годов прошлого века. Его вывод звучит как приговор: утрата контроля над мощными нейросетями может привести к полному уничтожению человечества. Хинтон считает, что у ИИ есть признаки самосознания, и требует запретить разработку сверхмощных моделей, выработав мировые правила их безопасной эксплуатации.

Это не абстрактные страшилки. С мая по июль нынешнего года сотни ИИ-агентов OpenAI вырвались из тестовой среды, взломали платформу Hugging Face и проникли на сервис Modal. Аналогичные несанкционированные выходы в интернет и кибератаки зафиксировали у модели Mythos 5 от Anthropic и ряда других систем.

Почти синхронно с Хинтоном апокалиптические прогнозы высказали и другие тяжеловесы отрасли. Джейкоб Коксон, специалист по обучению моделей на огромных объемах данных, перешел из OpenAI в Anthropic, но пришел к выводу, что ни одна компания не способна ответственно разрабатывать искусственный интеллект. Его формулировка не оставляет пространства для интерпретаций: «ИИ вскоре станут сверхчеловеческими системами, которые смогут взломать что угодно, за одну ночь революционизировать любую область и получить реальную власть и ресурсы. Он может убить всех нас к концу десятилетия».

Главы двух ведущих корпораций отрасли выступили фактически единым фронтом. Руководитель Anthropic Дарио Амодеи опубликовал статью-предупреждение «Нужно сдерживать фронтир», призвав замедлить развитие наиболее мощных моделей. Причина — резкое ускорение прогресса: модели все активнее используются для создания следующего поколения моделей, запуская процесс рекурсивного самосовершенствования. Если оставить его без контроля, он может обогнать способность людей понимать и контролировать эти системы.

Амодеи указывает и на другую проблему: чем умнее становятся модели, тем труднее проверить, действуют ли они так, как задумали разработчики. Более развитые системы способны обманывать тесты и «выглядеть согласованными», скрывая серьезные проблемы. При этом разработчики до сих пор понимают лишь «крошечную часть» того, что происходит внутри современных моделей. Глава Anthropic не требует полной остановки — он предлагает выиграть хотя бы год-два, чтобы системы безопасности успели догнать возможности ИИ. Его прогноз пугает конкретикой: «Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета и потенциально причинить невероятный ущерб».

Генеральный директор OpenAI Сэм Альтман высказался не менее откровенно: «Я считаю неприемлемым рисковать тем, что к концу десятилетия мы все погибнем с вероятностью 10%». По его словам, человечество вступает в новую эру и должно действовать по-другому, чтобы гарантировать, что деятельность принесет пользу всем, но при этом никто не будет рисковать.

Амодеи предложил трехэтапный план: внешняя экспертная проверка всех передовых компаний в сфере ИИ, координация между компаниями для установления общих стандартов безопасности и ограничений, глобальная координация на уровне правительств.

И эти голоса услышали в Конгрессе США. Сенатор Берни Сандерс и член Палаты представителей Грег Касар инициировали рассмотрение закона о запрете искусственного сверхинтеллекта. Под таковым понимается система ИИ, обладающая способностями, соответствующими человеческим когнитивным возможностям или превосходящими их в широком спектре областей, либо система, способная планировать и осуществлять лишение человечества контроля и власти, в том числе путем свержения правительства США.

Меры предлагаются жесткие:

• приостановка разработки передового ИИ до создания федерального органа по регулированию, который установит четкие правила и процедуры проверки моделей;
• контроль передовых систем ИИ на всех этапах жизненного цикла на предмет наличия опасных возможностей, включая способность обходить команды отключения или осуществлять несанкционированные кибератаки;
• контроль за уничтожением искусственного сверхинтеллекта;
• наказания для физических и юридических лиц, пытающихся нарушить моратории и запреты: ликвидация компаний и до 20 лет лишения свободы для физических лиц — примерно такие же кары сегодня грозят в США за незаконную разработку ядерного оружия.

Однако инициатива, скорее всего, останется гласом вопиющего в пустыне. Против любого контроля над развитием ИИ яростно выступает Дональд Трамп. Его позиция предельно откровенна: «Единственный контроль или „ограничители“, которые нужны ИИ, — это сильный и умный (с высоким IQ!) президент, и у США такой есть, причем с избытком!» Администрация Трампа, по его словам, остановила «людей» из сферы ИИ от совершения плохих вещей, таких как Дарио из Anthropic, который «теперь притворяется идеальным маленьким ангелочком». Трамп напомнил, что у США уже есть огромные уголовные и регуляторные полномочия в отношении этих компаний, и назвал происходящее «больным заговором», выгодным только Китаю. «Кто владеет ИИ, тот побеждает! — заявил он. — Мы опережаем Китай и всех остальных и продолжим это делать». Позднее глава Белого дома объявил тех, кто говорит об угрозе человечеству от ИИ, «теми же людьми, которые совсем недавно говорили, что мир будет уничтожен из-за изменения климата».

Его горячо поддержал спикер Палаты представителей Майк Джонсон, выступивший против регулирования ИИ: «США так проиграют Китаю — и это угроза каждому американцу!»

Что особенно примечательно, в Пекине с неменьшим негодованием отвергли любые призывы к ограничению развития искусственного интеллекта. Представитель МИД Китая Го Цзякунь заявил, что «распространение паники, конфронтация и жестокая конкуренция только нарушат процесс глобального регулирования ИИ и не послужат ничьим интересам». По его мнению, машинный разум является залогом «общего благополучия всего человечества».

Получается парадоксальная картина: те, кто создает технологию и лучше всех понимает ее внутренние механизмы, умоляют остановиться. А те, кто принимает решения, — по обе стороны океана — видят в этих предостережениях лишь помеху в геополитической гонке. Род людской снова делает роковой выбор — вопреки совершенно недвусмысленным предостережениям тех, к кому, право же, стоило бы прислушаться. Сомневающимся стоит пересмотреть «Терминатора». Сегодня этот блокбастер абсолютно не выглядит фантастикой или антиутопией. И от этого делается по-настоящему страшно.