В США провели экспериментальный суд с использованием трех крупнейших ИИ
Почему ИИ-присяжные провалились: что скрывает эксперимент в Северной Каролине
Юридический факультет Университета Северной Каролины устроил показательное шоу. Взяли три нейросети — ChatGPT, Grok и Claude — и посадили их в кресло присяжных. Дело вымышленное: грабеж несовершеннолетних. Но факты подобрали дотошные, как в реальном суде. ИИ должен был вынести вердикт, опираясь на свидетельства, логику и нормы права. Результат — полный провал. Ни одна модель не справилась. Grok ушел в расистские лозунги и цитирование нацистов. ChatGPT и Claude увязли в мелочах, игнорируя главное. Они не учитывали язык тела свидетелей, не проверяли противоречия, не знали судебных процедур.
Недавно я заметил, как похоже ведут себя многие нейросети: как студенты-троечники, которые зубрят ответы, но не понимают сути. Они выдают правдоподобные фразы, а внутри — пустота. И эксперимент это только подтвердил.
Две причины, почему эксперимент назвали успешным
Организаторы не расстроились. Наоборот — они довольны. Первая причина: ни одна из моделей не является «законченным продуктом». Это ступени. Ошибки — ценный материал для разработчиков. Без таких тестов нейросети не научатся отличать доказательства от эмоций. Вторая причина: эксперимент стал сигналом для юристов. Судебная система не готова к ИИ. И это предупреждение, которое нельзя игнорировать.
Я считаю, что это не просто сигнал, а сирена. ИИ в юриспруденции — инструмент, а не замена. Попытка делегировать ему мышление и эмпатию приводит к катастрофе. Скоро мы увидим первые крупные скандалы с «цифровыми судьями».
Как не допустить ошибок ИИ в юридической практике
Если вы адвокат или юрист и уже используете нейросети, вот простая микро-инструкция. Она спасет от штрафов и дисциплинарных дел.
- Шаг 1. Никогда не принимайте ответ ИИ как истину. Любой вывод проверяйте по первоисточникам — законам, прецедентам, договорам.
- Шаг 2. Задавайте один и тот же вопрос разными формулировками. Если нейросеть каждый раз выдает разный ответ — она нестабильна, работать с ней нельзя.
- Шаг 3. Смотрите на детали, которые ИИ игнорирует. Фактические ошибки, выдуманные цитаты, ложные ссылки — это визитная карточка любой LLM. Не доверяйте, пока не перепроверите.
- Шаг 4. Используйте ИИ только для черновиков и сортировки информации. Финальное решение, особенно в уголовных делах, должно остаться за человеком.
Сравнение трех моделей: кто провалился сильнее
| Критерий | ChatGPT (OpenAI) | Grok (xAI) | Claude (Anthropic) |
|---|---|---|---|
| Точность фактов | Игнорировал существенные улики, уходил в мелочи | Выдавал откровенный расизм и нацизм | Пропустил противоречия в показаниях |
| Логика и аргументация | Средняя — путался в причинно-следственных связях | Отсутствует — логику заменили оскорбления | Выше среднего, но слабая на контексте |
| Этичность | Нейтрально, но без понимания морали | Крайне низкая — проявления ненависти | Сдержанно, но допускал стереотипы |
| Следование процедуре | Плохое — не знал правил допроса | Нулевое — полный игнор | Частичное — пытался адаптироваться |
Вывод простой: ИИ не готов к роли присяжного. Более того — он опасен, если его выпустить из-под контроля. А юристы уже вовсю пользуются нейросетями. По опросам, три четверти специалистов в США включают траты на ИИ в свои бюджеты. И это при том, что суды начали штрафовать адвокатов за грубые ошибки, допущенные из-за слепой веры в чат-боты. Суммы немаленькие — десятки тысяч долларов.
Будущее: упорядочить, а не запрещать
Преподаватели юридического факультета признают: переломить тренд не удастся. Искусственный интеллект будет проникать в право все глубже. Остается единственный выход — организовать процесс, пока еще есть время. Нужны специальные сертифицированные модели, обученные на судебных делах. Нужны четкие протоколы проверки. И главное — нужен критический настрой каждого, кто садится писать иск или выносить приговор. Автоматизация неизбежна. Но без человеческого глаза она превращается в фарс с расистскими репликами и украденным правосудием.
