Отключить доступ иностранцев к передовым моделям Anthropic пришлось по наводке главы Amazon

Власти США пошли на беспрецедентные меры, фактически заблокировав доступ к передовым ИИ-моделям компании Anthropic для иностранных пользователей. Поводом стала внутренняя проверка, проведенная специалистами Amazon, которая выявила потенциальную возможность использования нейросетей для генерации вредоносного кода и проведения кибератак. Реакция оказалась жесткой: Anthropic не только ограничила доступ к модели Fable 5, но и полностью перекрыла работу с более мощной системой Mythos для всех пользователей без исключения.

С чего все началось: доклад главы Amazon

Цепочка событий запущена после того, как генеральный директор Amazon Энди Джесси лично проинформировал членов американского правительства о результатах внутреннего расследования. Исследователи компании обнаружили, что с помощью специальных запросов к модели Fable 5 можно снимать встроенные ограничения безопасности. Это открывало путь к выявлению уязвимостей в программном обеспечении и, что критически важно, к генерации рабочего вредоносного кода, эксплуатирующего эти «дыры».

По данным источников, после совещания с участием чиновников было принято радикальное решение: полностью перекрыть доступ к Fable 5 для иностранных правительств, компаний и частных лиц. Окончательное утверждение этой меры взял на себя лично президент США Дональд Трамп.

Реакция Anthropic: вынужденные меры и кадровый кризис

В пятницу состоялся экстренный телефонный разговор между американскими чиновниками и генеральным директором Anthropic Дарио Амодеи. Компания была вынуждена подчиниться, однако публично выразила несогласие с таким подходом. Более того, Anthropic пошла дальше требований властей, заблокировав доступ не только к Fable 5, но и к более мощной модели Mythos, которая специализируется на анализе проблем кибербезопасности.

Это решение создало серьезную проблему для самой компании. Формально Anthropic лишилась возможности полноценно развивать свои модели, так как значительная часть ее исследовательского штата состоит из иностранных специалистов, которым теперь запрещено работать с ключевыми разработками.

Позиция сторон: спор о реальной угрозе

Вокруг инцидента развернулась дискуссия о реальной степени опасности. Представители Amazon подтвердили, что правительство США регулярно консультируется с компанией по вопросам кибербезопасности, но содержание таких консультаций не разглашается.

В свою очередь, Anthropic настаивает, что выявленные уязвимости не уникальны — аналогичные слабые места можно обнаружить с помощью других публично доступных ИИ-моделей. Ключевое отличие, по мнению экспертов, заключается в том, что решения Anthropic позволяют не просто найти уязвимость, но и сгенерировать готовый вредоносный код для ее эксплуатации.

• Мнение сторонних экспертов: Выявленные уязвимости не представляют критической опасности для кибербезопасности.
• Позиция Amazon: Сценарий использования ИИ для атак был продемонстрирован, хотя нет данных о том, что он был доведен до конечной цели.
• Аргумент Anthropic: Существующих мер безопасности достаточно для предотвращения атак, а блокировка доступа — избыточная мера.

Последствия: удар по бизнесу накануне IPO

Для Anthropic, которая готовится к осеннему первичному размещению акций (IPO), этот скандал стал серьезным ударом. Принудительное ограничение доступа к флагманским продуктам подрывает инвестиционную привлекательность стартапа.

Ситуация осложняется тем, что у компании с весны текущего года тлеет конфликт с Пентагоном. Однако, как подчеркивают источники, инициатива по блокировке моделей исходила не от военного ведомства, а от других ветвей власти, что указывает на системный характер давления на разработчиков ИИ в США.