Глава Anthropic Амодеи: Китай не станет тормозить ИИ ради военного преимущества

Глава компании Anthropic Дарио Амодеи публично признал то, о чём в кулуарах отрасли говорят уже давно: любые попытки договориться о сдерживании развития искусственного интеллекта упираются в геополитику. В эфире программы Sunday Morning на канале CBS News он заявил, что главная дилемма — отказ конкурирующих держав, прежде всего Китая, соблюдать подобные ограничения ради получения военного преимущества.

Долгосрочная цель, по мнению Амодеи, — совместная выработка «ограничения скорости» для ИИ-технологий. Однако он сам скептически оценивает реализуемость этой идеи: стимулы опередить соперника и получить стратегическое превосходство слишком велики. Даже осознавая это, руководитель Anthropic настаивает: попытки договориться предпринимать необходимо.

Заявление прозвучало на фоне внутреннего напряжения в самой компании. Амодеи ранее призывал замедлить темпы улучшения наиболее продвинутых моделей — реакция на предупреждения исследователей о потенциальном катастрофическом вреде технологии. Ситуацию усугубил уход из Anthropic сотрудника Джейкоба Коксона, объяснившего решение страхом перед тем, что компания и её главный конкурент OpenAI «играют в рулетку с нашими жизнями».

Пока в США идут такие дискуссии, китайские стартапы наращивают возможности своих нейросетей, составляя конкуренцию OpenAI и Anthropic. На саммите БРИКС в Индии Си Цзиньпин призвал создать основанную на консенсусе глобальную систему управления ИИ, а власти Китая объявили о планах помочь в формировании открытого сообщества разработчиков в рамках блока, объединяющего сейчас 11 стран, включая Россию. Получается, что разговор о «замедлении» идёт параллельно с наращиванием темпов — только на другой стороне планеты.

Любопытно, что инициативу Амодеи поддержали те, кого сложно заподозрить в единодушии. Сэм Альтман, чьи отношения с Амодеи напряжёнными остаются с конца 2020 года, когда тот покинул OpenAI и основал Anthropic, заявил о необходимости «сдерживать темп развития передовых систем». Председатель совета директоров Google DeepMind Демис Хассабис назвал эссе Амодеи движением в правильном направлении, оговорившись, что детали ещё предстоит проработать. Илон Маск также положительно отнёсся к предложению замедлить развитие передовых ИИ-систем.

При этом Anthropic и OpenAI одновременно готовятся к возможным первичным публичным размещениям акций, хотя официальных дат IPO ни одна из компаний не называет. Альтман допустил, что OpenAI не выйдет на биржу в этом году — в том числе из-за вопросов безопасности. Так что призывы к осторожности звучат на фоне подготовки к одному из самых громких выходов на рынок в истории отрасли.

Итог прост: договориться о торможении передового ИИ мешает не отсутствие аргументов, а отсутствие механизма, который заставил бы соблюдать правила тех, кто видит в этом отставание. Пока одни обсуждают «ограничение скорости», другие наращивают обороты — и именно это противоречие, а не технические детали, определяет будущее гонки.

По материалам: 3DNews