Медведев: единый договор по ИИ не заключат из-за жадности корпораций

Заместитель председателя Совета безопасности России Дмитрий Медведев сформулировал неудобную правду о будущем искусственного интеллекта: договориться о единых правилах игры человечество могло бы, но не станет. Причина не в технологической сложности и не в отсутствии международных площадок для переговоров. Причина в жадности корпораций, которые разрабатывают генеративные модели, и в ненасытности человеческих страстей, подогревающих эту гонку.

Поводом для заявления стал поток признаний от самих создателей ИИ. Картина дня, по словам Медведева, пестрит размышлениями разработчиков о том, что человечество поторопилось. Они говорят об опасности, непредсказуемости и слишком быстром развитии своих продуктов, призывают остановиться и взять паузу. Медведев напоминает: об этом давно предупреждал Илон Маск и другие. И страхи эти реальны — зампред Совбеза сам писал об угрозах в статье для журнала «Эксперт».

Однако главный его тезис куда жестче. Разработчики лукавят, когда рассуждают о судьбах человечества. Они боятся не за людей и не за вид Homo sapiens. Их пугает не гипотетический бунт машины, а вполне конкретный сценарий: продвинутый ИИ причинит колоссальный ущерб — столкнет в воздухе самолеты, уничтожит АЭС. И тогда придут за создателями. Предъявят многомиллиардные иски, а то и, как выразился Медведев, «размажут мозги по стенке». Именно этот страх, а не альтруизм, движет корпорациями, когда они говорят о необходимости паузы.

Самым очевидным решением Медведев называет попытку договориться на страновом уровне об общих принципах регулирования ИИ. Тогда, по его мнению, у всех появился бы хоть какой-то шанс контролировать развитие технологии. Но этого не произойдет. Жадность корпораций и ненасытность человеческих страстей сильнее здравого смысла. Остается, по его словам, рассчитывать на милость победителя — на гуманизм, который проявит рукотворный умник. У ИИ пока нет явных эмоций, но каким будет великий суперинтеллект, неизвестно. «Авось пожалеет родителей», — резюмирует Медведев.

Фоном к этим рассуждениям служит неожиданное единодушие конкурентов. Илон Маск поддержал призыв главы Anthropic Дарио Амодеи замедлить темпы разработки в сфере ИИ. К обсуждению присоединился и глава OpenAI Сэм Альтман, согласившийся с необходимостью соответствовать вызовам времени. Когда главные игроки рынка, обычно конкурирующие за каждый месяц форы, вдруг хором говорят об осторожности, это само по себе симптом. Вопрос лишь в том, чего в этом хоре больше — осознания рисков или попытки переложить ответственность на регуляторов, пока сами корпорации продолжают наращивать мощности.

Медведев, по сути, ставит точку в дискуссии о том, возможен ли глобальный договор по ИИ. Нет, потому что договариваться пришлось бы не только между странами, но и с корпорациями, чьи интересы лежат в другой плоскости. А значит, человечество вступает в эпоху суперинтеллекта без страховки, полагаясь лишь на удачу и на то, что машина окажется добрее своих создателей.

По материалам: Антифашист