Медведев объяснил, чего действительно стоит бояться в эпоху ИИ. Спойлер: до конца света пока далеко

Дмитрий Медведев, занимающий пост заместителя председателя Совета Безопасности России, 14 сентября 2025 года не только отмечает своё 60-летие, но и делает программное заявление о том, чего действительно стоит опасаться человечеству в связи с развитием искусственного интеллекта. И его позиция заметно расходится с апокалиптическими сценариями, которыми последние годы пугают общественность.

По мнению политика, разговоры о том, что «оборзевший от своей мощи» ИИ вот-вот уничтожит человечество, — это скорее лукавство со стороны самих создателей генеративных моделей. «Они боятся не за нас с вами и не за Sapiens в целом. Перспектива этого вполне туманна», — написал Медведев в своём Telegram-канале. Иными словами, страх перед восстанием машин во многом искусственно раздут теми, кто заинтересован в привлечении внимания к своим разработкам.

Гораздо более реальной угрозой замглавы Совбеза считает не восстание нейросетей, а банальный сбой в системе, получившей контроль над критически важной инфраструктурой. Опасность здесь двойная: сначала ошибка алгоритма, затем — невозможность оперативно вмешаться и предотвратить катастрофу. Когда решение принимается за доли секунды, а человек не успевает даже понять, что происходит, цена ошибки может оказаться несоизмеримо высокой.

Медведев приводит два конкретных примера. Первый — транспортный узел, где некорректная работа программного комплекса теоретически способна привести к столкновению самолётов в воздухе. Второй — энергетика: сбой при контроле над крупным промышленным объектом потенциально может обернуться уничтожением атомной электростанции. Это не сценарии из научной фантастики, а вполне просчитываемые риски, которые возникают, когда сложные системы доверяют алгоритмам без должных предохранителей.

Показательно, что тревогу бьют не только в России. Американские технологические корпорации уже начали продумывать защитные механизмы на случай опасного поведения ИИ. Проблема упирается в архитектуру современных платформ: если отдельный сервер при необходимости можно просто обесточить, то продвинутые системы работают сразу на множестве компьютеров и инфраструктурных площадок. Выключить такую сеть одним рубильником уже не получится — и именно это делает риски по-настоящему серьёзными.

Дмитрий Медведев родился в Ленинграде в 1965 году. С 2008 по 2012 год занимал пост президента России, с 2012 по 2020 год возглавлял правительство. Сейчас он курирует вопросы безопасности и военно-промышленной комиссии — и его нынешнее предупреждение звучит не как отвлечённая философия, а как взгляд человека, знакомого с реальными механизмами управления критическими системами. Конец света, возможно, и отменяется, но вот цена технологической беспечности вполне может оказаться катастрофической.