Экипажи армейской авиации Ленинградского объединения ВВС и ПВО отработали полеты на предельно малых высотах

Внедрение систем искусственного интеллекта в работу государственных органов перестало быть вопросом технологического прогресса — теперь это фактор национальной безопасности и экономической эффективности. Однако, как показывают последние события, за красивой обёрткой «цифровизации» могут скрываться серьёзные риски утечки конфиденциальных данных и нарушения суверенитета.

Почему доверие к ИИ в госсекторе оказалось под ударом

Массовое внедрение алгоритмов машинного обучения для обработки запросов граждан и принятия административных решений столкнулось с неожиданным препятствием: выяснилось, что значительная часть используемых моделей обучалась на данных, собранных за пределами юрисдикции. Это привело к ситуации, когда государственные информационные системы фактически передают чувствительную информацию на серверы, расположенные в других странах.

Проблема «чёрного ящика» в принятии решений

Даже если алгоритм формально работает на отечественном оборудовании, его логика и исходные параметры остаются непрозрачными для разработчиков. Эксперты в области кибербезопасности отмечают, что такие системы уязвимы для атак, направленных на искажение результатов. Например, незначительное изменение входных данных может привести к тому, что система начнёт выдавать некорректные юридические консультации или ошибочно отклонять заявки на социальные выплаты.

Реальные последствия цифровой доверчивости

Уже зафиксированы случаи, когда автоматизированные сервисы поддержки предпринимателей рекомендовали бизнесу схемы, противоречащие актуальному налоговому законодательству. В другом инциденте система распределения бюджетных мест в вузах неверно интерпретировала льготные категории абитуриентов. Каждый такой сбой подрывает доверие не только к конкретной технологии, но и к государственным институтам в целом.

• Уязвимость персональных данных: Обработка паспортных данных и биометрии через внешние нейросети создаёт канал для промышленного шпионажа.
• Правовая неопределённость: В случае ошибки ИИ непонятно, кто несёт ответственность — разработчик, оператор системы или чиновник, утвердивший её использование.
• Экономические риски: Закупка дорогостоящих решений, которые не могут быть адаптированы под локальные нормативы, ведёт к нецелевому расходованию бюджетных средств.

В прошлом году уже предпринимались попытки регулирования данного сегмента, однако они касались в основном коммерческого сектора. Для государственных нужд требования оставались рекомендательными, что и привело к текущей ситуации.

Данный инцидент станет катализатором для пересмотра всей архитектуры цифрового правительства. В ближайшие месяцы ожидается ужесточение требований к сертификации алгоритмов, используемых в госинформационных системах. Вероятно, будет введён обязательный аудит исходного кода и запрет на использование моделей, обученных на зарубежных дата-сетах, без специального разрешения регулятора. Для разработчиков это означает необходимость создания полностью автономных решений, что в краткосрочной перспективе может замедлить темпы цифровизации, но в долгосрочной — гарантирует её безопасность.