Эксперты назвали приоритетные отрасли для контроля ИИ: наука и медицина

По мере того как искусственный интеллект всё глубже проникает в повседневную работу врачей, учёных, журналистов и инженеров, вопрос ответственного обращения с нейросетями перестаёт быть абстрактной дискуссией. Опрошенные эксперты сходятся: технологии развиваются быстрее, чем системы контроля, а цена ошибки алгоритма в чувствительных сферах измеряется не репутационными потерями, а здоровьем и жизнью людей. Где именно нужны жёсткие рамки и какие механизмы уже работают — в аналитическом разборе.

Наука как полигон для этических правил

Одной из первых профессиональных сфер, где попытались сформулировать чёткие ограничения, стала академическая публицистика. В октябре российские учёные-химики совместно с редакторами научных изданий представили свод правил ответственного использования ИИ в публикации «Искусственный интеллект в подготовке научных статей» в журнале «Успехи химии». Семь принципов объединили аббревиатурой VALENCE.

• Verify — обязательная проверка всех фактов, ссылок и выводов.
• Acknowledge — открытое указание мест, где применялись ИИ-инструменты.
• Limit — ограничение участия ИИ посильными задачами: перевод иностранных источников, анализ первичных данных, улучшение стиля и технических параметров.
• Edit — редактирование автором сгенерированного черновика.
• No AI authorship — запрет на упоминание нейросети как соавтора и цитирование сгенерированного контента как научного утверждения.
• Cite & protect — обращение к первоисточникам и проверенным сервисам, соблюдение норм авторского права.
• Ensure standards — обеспечение соответствия итоговой работы научным стандартам: точность, ясность, оригинальность, воспроизводимость экспериментов, достоверность данных и этические нормы.

Профессор кафедры философии НИЯУ МИФИ, ведущий эксперт лаборатории цифровых исследований Екатерина Тихомирова указывает на фундаментальную проблему: системы детекции сгенерированного текста — как российские, так и зарубежные — серьёзно отстают от возможностей больших языковых моделей, которые к тому же способны удалять маркировку со своего контента. «Написать красивый чистый текст больше не трудно. Стоит проблема аморального, неэтичного использования ИИ, фальсификации данных», — подчёркивает эксперт. По её словам, в научной среде распознать недобросовестную публикацию можно только тогда, когда эксперт способен заподозрить не неестественный язык, а именно фальсификацию данных. «Самым важным становится этическое поле. Нужно думать не о том, как маркировать тексты и изображения, сгенерированные ИИ, а как проверить суть идей и их ценность», — резюмирует Тихомирова.

Медицина: между алгоритмом и клиническим опытом

В здравоохранении цена ошибки максимальна, поэтому здесь складывается принципиально иная практика. Ассистент кафедры физиологии ИФ Пироговского университета Станислав Шилейко поясняет: медицинские программные продукты для диагностики и принятия врачебных решений в России могут относиться к медицинским изделиям и проходить соответствующую регистрацию. Это отличает специализированную систему от обычного чат-бота в интернете.

Такие нейросети попадают в область действия законов «О поддержке развития технологий искусственного интеллекта в Российской Федерации», «Об основах охраны здоровья граждан в Российской Федерации», а также «Правил государственной регистрации медицинских изделий» и ряда других нормативных актов. Обычные чат-боты функционируют в ином правовом поле и не обучаются на специализированных датасетах.

«Генеративные системы вроде популярных чат-ботов способны выдавать убедительно звучащие, но ошибочные ответы. Они могут не учесть противопоказание, взаимодействие лекарств или важный симптом или просто взять за основу ответа ложные данные. Без соответствующего образования человек просто не способен увидеть допущенные ИИ ошибки. Поэтому совет ИИ "принимать такой-то препарат в такой-то дозе" нельзя считать медицинским назначением», — предупреждает Шилейко.

Наиболее реалистичная модель, по мнению эксперта, выглядит так: алгоритм быстро анализирует большой объём данных и предлагает или ранжирует возможные варианты, а врач оценивает их с учётом состояния и особенностей конкретного пациента. Ответственность за постановку диагноза и выбор тактики лечения по-прежнему несёт человек. Именно сочетание возможностей ИИ и клинического опыта сегодня выглядит наиболее перспективным.

Глобальные рамки и экономическое сопротивление

На наднациональном уровне первым документом стала Рекомендация по этическим аспектам ИИ, разработанная ЮНЕСКО в 2021 году. В 2024-м Евросоюз принял Закон об искусственном интеллекте, где отражены риски использования ИИ-инструментов, включая общение с чат-ботами и создание дипфейков. Особое внимание уделено авторскому праву: обязательная маркировка сгенерированного контента, предотвращение генерации нелегального содержимого и предупреждение пользователей об обращении к охраняемым источникам. В том же году страны БРИКС приняли Казанскую декларацию о глобальном сотрудничестве в регулировании ИИ и борьбе с киберпреступностью.

Руководитель программы магистратуры «Проектирование и разработка систем ИИ» Университета ИТМО Александр Кугаевских считает, что регулирование должно осуществляться экспертами в области ИИ, представителями бизнеса, федеральных органов исполнительной власти и университетской среды. Международные организации, такие как китайская инициатива WAICO, лишь начинают прорабатывать вопрос, поэтому пока разумнее ограничиться национальными инициативами.

Отдельные стандарты разрабатываются для здравоохранения, образования, сельского хозяйства, экологии и беспилотного транспорта. Однако бизнес почти всегда выступает против регулирования, аргументируя это замедлением развития технологий. «На самом деле, конечно же, нет. Просто при разработке систем приходится учитывать нормы, и это требует увеличения затрат», — объясняет Кугаевских.

Ключевой водораздел в дискуссии об ИИ смещается от технических вопросов маркировки к содержательным: способны ли алгоритмы нести ответственность за смысл, и готовы ли профессиональные сообщества выстраивать этические фильтры раньше, чем технологии закрепятся в чувствительных отраслях. Пока одни отрасли — медицина и наука — формируют жёсткие протоколы, другие остаются в зоне мягкого саморегулирования. Именно скорость этого перехода определит, насколько управляемым окажется внедрение ИИ там, где ошибка алгоритма перестаёт быть просто багом.

По материалам: RT