Кризис из-за ИИ: В Конгрессе пожаловались на поток законов от нейросетей

Американский Конгресс захлебывается в потоке законопроектов, написанных нейросетями. Казалось бы, вот он — прорыв в эффективности. Но на деле вышло наоборот: юридическая служба Палаты представителей теперь тратит больше времени не на создание законов, а на исправление ошибок, которые наделал искусственный интеллект. По данным Politico, ИИ путает юридические термины, криво ссылается на нормы права и штампует документы, которые могут развалиться в любом суде.

Парадокс в том, что нейросети создают видимость работы. Вы даете запрос — получаете красивый текст с правильной структурой. Но дьявол, как всегда, в деталях. Юристы Конгресса жалуются: машина не понимает контекста правовых норм и прецедентов. Она просто компилирует куски из базы знаний, создавая опасные юридические конструкции. Это как если бы студент-троечник списал реферат из трех разных учебников — на первый взгляд связно, но при проверке рассыпается.

Цифры, которые пугают

Масштаб бедствия впечатляет. За первые два месяца работы нового созыва юридическая служба получила более 5,6 тысячи запросов на подготовку законопроектов. Это на 72% больше, чем за аналогичный период двумя годами ранее. И почти треть этих документов требует полной переработки.

Получается замкнутый круг: ИИ генерирует мусор, юристы его переписывают, а нагрузка только растет. Вместо экономии времени — его потеря. Вместо разгрузки сотрудников — их перегрузка. Технология, призванная ускорить процесс, стала его тормозом.

В чем суть проблемы? Искусственный интеллект оперирует вероятностями, а не смыслами. Он не знает, что такое «юридическая определенность». Для него закон — это просто набор текстов, из которых можно собрать новый документ. Но закон — это живая система, где каждое слово имеет вес и последствия.

Как это работает на практике

Представьте, что вы просите нейросеть написать закон о регулировании криптовалют. Машина выдаст текст, где определение «цифрового актива» будет взято из одного документа, порядок лицензирования — из другого, а ответственность за нарушения — из третьего. В результате получится монстр Франкенштейна, который противоречит сам себе и действующему законодательству.

Сотрудники Палаты представителей уже пытаются решить проблему с помощью ИИ. Они разработали специальную программу, которая анализирует, как новые инициативы повлияют на существующие законы. Но это лишь костыль, а не лечение. Сначала нужно научить нейросети не делать ошибок, а потом уже использовать их для работы.

Личное наблюдение автора

Недавно я наблюдал, как мой знакомый юрист пытался использовать ChatGPT для подготовки договора аренды. Через час он выбросил результат и сел писать вручную. «Слишком много рисков, — сказал он. — Машина не учитывает нюансы, которые я вижу за годы практики». Думаю, конгрессмены сейчас испытывают те же чувства, только в масштабе страны.

Ирония в том, что Трамп, который активно продвигает ИИ, сам стал жертвой этой технологии. Его недавний пост с фото, где он «захватывает» иранский танкер, — явная работа нейросети. Если уж президент не может отличить реальность от генерации, чего ждать от законодателей?

Что делать?

Первое — не запрещать ИИ, а ограничить его использование на этапе черновиков. Второе — обязать авторов законопроектов указывать, что текст создан нейросетью. Третье — ввести обязательную экспертизу всех «машинных» документов.

Но главное — понять простую вещь: ИИ хорош там, где есть четкие правила и структура. Законодательство — это хаос, который требует человеческого суждения. Пока нейросети не научатся мыслить как юристы, они будут лишь создавать видимость работы. А Конгрессу сейчас нужна не видимость, а результат.

Технология — отличный инструмент, но плохой работодатель. И если американские законодатели не поймут этого сейчас, через пару лет мы увидим законы, написанные роботами, которые невозможно будет применить на практике. И тогда уже никакая юридическая служба не спасет.