Американские IT-гиганты согласились маркировать ИИ-контент водяными знаками по рекомендации Белого дома

Администрация США объявила о добровольных обязательствах семи ведущих разработчиков искусственного интеллекта, которые обязуются маркировать создаваемый нейросетями контент с помощью цифровых «водяных знаков». Однако, как отмечают эксперты, эти меры носят скорее декларативный характер: механизмы принуждения к их исполнению отсутствуют, а сами правила во многом дублируют уже существующие внутренние политики компаний.

Добровольные гарантии или попытка упредить законодательство?

Соглашение, заключенное с Amazon, Anthropic, Google, Inflection, Meta*, Microsoft и OpenAI, предусматривает три ключевых пункта. Во-первых, компании обещают проводить тщательное тестирование безопасности своих ИИ-систем до их коммерческого запуска. Во-вторых, они намерены инвестировать в изучение долгосрочных рисков, которые технология несет для общества. В-третьих, корпорации соглашаются на внешний аудит уязвимостей в своих алгоритмах.

Особое место в списке мер занимает внедрение системы цифровых водяных знаков. Этот инструмент призван решить проблему идентификации контента: любой текст, изображение, видео или аудиозапись, созданные нейросетью, будут содержать невидимую для пользователя, но считываемую машиной метку. Она укажет на происхождение материала (например, «создано с помощью GPT-4» или «сгенерировано Midjourney»).

Почему рынок скептичен: уроки социальных сетей

Глава аппарата Белого дома Джефф Зайентс подчеркнул, что администрация будет «требовать выполнения обязательств». Однако в самом документе не прописано ни одного механизма контроля или санкций за нарушение. Более того, как признают в Белом доме, эти меры не являются заменой полноценному федеральному закону, который пока находится в стадии разработки.

Показателен пример с OpenAI: прежде чем выпустить GPT-4 в марте этого года, компания уже потратила около полугода на стресс-тесты с привлечением внешних экспертов. Иными словами, подписанное соглашение во многом фиксирует статус-кво, а не вводит принципиально новые стандарты. Рынок помнит, как аналогичные «добровольные кодексы» поведения в начале 2010-х годов не смогли сдержать вал дезинформации в соцсетях, что в итоге привело к ужесточению регулирования постфактум.

На фоне этих событий администрация Джо Байдена ускоряет работу над президентским указом, который мог бы ввести обязательные требования к разработчикам ИИ. Эксперты сходятся во мнении, что текущее соглашение — это лишь временная мера, призванная дать законодателям время на подготовку более жестких норм, пока компании продолжают наращивать вычислительные мощности и внедрять ИИ во все сферы жизни.

Семь крупнейших игроков рынка ИИ уже не первый месяц участвуют в консультациях с Белым домом. В мае главы Google, Microsoft и OpenAI встретились с президентом лично, а в прошлом месяце в Сан-Франциско прошло совещание с участием независимых исследователей. Нынешнее объявление — результат этих переговоров, которые, судя по всему, будут продолжены до тех пор, пока не появится полноценный законодательный акт.

* Компания Meta признана экстремистской организацией и запрещена на территории РФ.