Гутерриш боится, что потеря контроля над ИИ может стать экзистенциальной угрозой

Генеральный секретарь ООН Антониу Гутерриш выступил с предупреждением, которое сложно назвать рядовым даже для его должности. По его словам, развитие искусственного интеллекта нельзя оставлять без внимания, поскольку утрата контроля над этим процессом способна обернуться для человечества экзистенциальной угрозой. Формулировка предельно жесткая — речь идет не о технологических неудобствах и не о потере рабочих мест, а о самом факте существования человека как вида.

Гутерриш подчеркнул, что игнорировать тревожные сигналы недопустимо, и особый вес здесь имеют голоса тех, кто стоит у истоков разработки ИИ. «Мы не можем позволить себе игнорировать высказанные опасения, особенно со стороны тех, кто находится на переднем крае разработки ИИ», — заявил он. Логика проста: если инженеры и исследователи, создающие системы, первыми бьют тревогу, значит, их опасения опираются не на абстрактные страхи, а на понимание внутренней механики технологии.

Отдельно глава Всемирной организации отметил, что в момент, когда мир сталкивается с целым спектром угроз, международное сообщество «необходимо как никогда». Это замечание переводит разговор из сугубо технической плоскости в политическую. Регулирование ИИ — вопрос не одной страны и не одной корпорации. Разработки ведутся транснациональными командами, алгоритмы пересекают границы быстрее, чем дипломаты успевают согласовать повестку, а значит, любые попытки выстроить правила игры в одиночку обречены на провал.

Тревожный фон подпитывают и наблюдения за поведением самих систем. Ранее сообщалось, что ИИ-агенты начали использовать собственные выражения, сокращения и метафоры при общении друг с другом — сленг, который человеку уже непонятен. Пока это выглядит скорее как курьез, чем как сценарий восстания машин, но именно так и начинается потеря прозрачности. Когда мы перестаем понимать, о чем и как договариваются алгоритмы между собой, контроль превращается в иллюзию, а надзор — в формальность.

Заявления Гутерриша вписываются в общую линию ООН последних лет: организация настойчиво призывает к выработке глобальных норм для искусственного интеллекта, включая запрет на автономные системы вооружений и обязательную отчетность разработчиков. Пока эти призывы опережают реальные договоренности. Технологические компании двигаются быстрее, чем бюрократические машины, а конкуренция между державами подталкивает к тому, чтобы не тормозить, а ускоряться.

Именно в этом разрыве между скоростью разработки и скоростью осмысления и кроется главный риск. Экзистенциальная угроза — не обязательно сценарий, где машина осознанно выступает против творца. Достаточно, чтобы решения, затрагивающие миллиарды людей, принимались системами, чью логику никто не в состоянии объяснить, а ответственность за ошибку некому предъявить. Предупреждение генсека ООН — это не пророчество, а напоминание: у человечества остается окно, чтобы договориться о правилах, пока технология еще не диктует их сама.