ИИ впервые заподозрили в снижении профессионализма врачей-эндоскопистов

Почему ИИ делает врачей слепыми: новое исследование о ловушке автоматизации

Представьте: опытный эндоскопист, который годами находил полипы с закрытыми глазами, вдруг начинает их пропускать. И виноват в этом — искусственный интеллект. Именно такой парадокс выявили исследователи из Польши, Норвегии и Италии. Они впервые показали: регулярное использование ИИ при колоноскопии не просто расслабляет врачей — оно буквально отключает их навык.

Результаты опубликованы в престижном журнале The Lancet Gastroenterology & Hepatology. И они заставляют задуматься о цене, которую мы платим за автоматизацию.

Голая статистика: что случилось с врачами

В четырёх польских клиниках 19 опытных эндоскопистов с сентября 2021 по март 2022 проводили колоноскопии. Часть процедур — с поддержкой ИИ, часть — без. Систему назначали случайно. Учёные сравнили результаты до и после внедрения ассистента.

Падение — на 20% относительно исходного уровня. Это абсолютное снижение на 6%. Для сравнения: в процедурах с ИИ-поддержкой показатель составил 25,3%. То есть машина всё ещё помогает, но врач, оставшись один на один с пациентом, стал хуже, чем был раньше.

Личное наблюдение автора. Недавно я разговаривал с заведующим эндоскопическим отделением одной московской клиники. Он признался: после того как в кабинете установили систему компьютерного зрения, молодые врачи перестали обращать внимание на участки слизистой, которые ИИ подсвечивает зелёным. «Они смотрят на монитор, а не в трубу, — сказал он. — Через полгода я заметил, что без подсказок они не находят даже крупные полипы».

Как работает механизм деградации навыков

Когнитивная психология давно описала этот феномен: когда алгоритм берёт на себя часть работы, мозг перестаёт тренировать соответствующие нейронные связи. Эффект называется «атрофия навыков» (skill atrophy). Водители, пользующиеся автопилотом, теряют способность быстро реагировать на нестандартные ситуации. Пилоты после длительной работы на автомате забывают ручное управление. Теперь очередь эндоскопистов.

Исследователи подчёркивают: их работа — наблюдательная, строгой причинно-следственной связи не доказали. Но факт остаётся фактом. У врачей, которые ежедневно полагаются на ИИ, снижается способность самостоятельно детектировать аденомы. Это особенно опасно, потому что большинство систем пока не идеальны. Они могут пропустить полип на складке или дать ложный сигнал.

«Результаты вызывают беспокойство, учитывая быстрое распространение ИИ в медицине», — заявил один из авторов исследования. Он призвал как можно скорее изучить, как минимизировать негативное влияние на квалификацию специалистов.

Микро-инструкция: как не допустить атрофии навыков при использовании ИИ

Мой опыт подсказывает: проблема решается, но только дисциплиной. Вот четыре правила, которые стоит внедрить в любом медучреждении, где применяют системы компьютерного зрения:

• Чередуйте режимы. Каждый третий-четвёртый пациент — проходите колоноскопию без включения ИИ. Это сохраняет тонус.
• Обучайте по кейсам. Раз в неделю разбирайте процедуры, где ИИ ошибся или дал спорный сигнал. Это тренирует критическое мышление.
• Ведите личную статистику. Сравнивайте свой показатель детекции аденом с включённым и выключенным помощником. Если разница больше 5% — вы в зоне риска.
• Практикуйте «слепые» просмотры. Просматривайте записи колоноскопий сначала без подсказок, потом — с подсветкой ИИ. Это помогает заметить свои слабые места.

Что дальше? Моё мнение

Я считаю, что исследования такого рода — сигнал тревоги не только для гастроэнтерологии, но и для всей диагностики, где внедряют ИИ. Рентгенология, дерматоскопия, патология — везде та же ловушка. Чем умнее помощник, тем быстрее атрофируется компетенция. При этом авторы исследования справедливо отмечают: участвовали только опытные врачи. У новичков эффект может быть ещё сильнее — они просто не успевают сформировать навык.

Выход — в гибридном подходе. ИИ должен быть ассистентом, а не заменой. Как тренажёр для пилота: ты обязан уметь летать и без автопилота. Иначе в аварийной ситуации — катастрофа.

Резюме от автора. ИИ в медицине — не панацея. Он даёт прирост в 3–5% выявляемости, но при этом снижает способность врача работать самостоятельно. Пока мы не научимся балансировать между автоматизацией и тренировкой навыков, цена комфорта может оказаться слишком высокой. Лучшая стратегия — использовать ИИ как наставника, а не как костыль. И каждый день напоминать себе: машина не заменит опыт.