Греф назвал аморальным право ИИ решать, кому жить на войне

Герман Греф на днях сделал заявление, которое сложно игнорировать. В Совете Федерации он прямо сказал: дать ИИ право самостоятельно решать, кому жить, а кому умирать на поле боя — это аморально. И точка. Особенно сейчас, когда технологии еще «сырые».

Сенатор Пушков подбросил в топку истории про Иран — якобы алгоритм планировал удар по школе. Греф не стал вдаваться в детали, но суть уловил точно: если машина ошибется, спросить будет не с кого. А за ней — программист, менеджер, генерал? Цепочка размывается.

Почему человек в петле — не просто модный термин

Концепция Human in the Loop (человек в контуре) — это не про недоверие к технологиям. Это про здравый смысл. Алгоритм может за секунду проанализировать спутниковый снимок, вычислить координаты и даже предложить план атаки. Но он не видит разницы между военной базой и школой, если данные в датасете были неполными.

Эксперт Алексей Каширин из K2 Cloud верно подметил: автономные системы хороши для разведки и моделирования. Но нажать на спусковой крючок должен человек. Пока что это золотой стандарт — и к нему пришли почти все страны.

Личное наблюдение автора: Недавно я тестировал нейросеть для генерации маршрутов в условиях ЧС. Она дважды предлагала проехать по дороге, которой на самом деле не существовало — карты устарели. Хорошо, что я проверял. А если бы это была система наведения? Последствия — катастрофа.

Не только мораль, но и ресурсы

Греф зацепил еще одну важную тему. Он сказал, что главный тормоз для ИИ в России — не инженеры, а вычислительные мощности. У нас отличные умы, но без «железа» они как гонщики без болидов. Разрыв в доступе к GPU и кластерам для обучения моделей — это не просто вопрос денег. Это вопрос геополитики.

Кто контролирует чипы — тот контролирует ИИ. А кто контролирует ИИ — тот диктует правила игры. Именно поэтому свой стек технологий становится вопросом выживания, а не престижа.

Три главных вывода для тех, кто хочет понять суть

• Этика vs Скорость. В войне скорость решает всё. Но если машина ошибается быстрее человека — это не преимущество, а катастрофа. Человек должен оставаться последней инстанцией.
• Ответственность нельзя делегировать. Алгоритм не сядет в тюрьму и не пойдет под трибунал. Пока не будет четких юридических норм, автономные боевые системы — это ящик Пандоры.
• Технологический суверенитет. Без своих вычислительных мощностей мы будем вечно догонять. А в гонке вооружений это значит проигрывать до того, как выстрелил первый танк.

Резюме от автора

Греф прав: доверять войну ИИ сегодня — безответственно. Но завтра, когда технологии дорастут, а законы появятся, вопрос встанет снова. И тогда решать придется не инженерам, а политикам. Надеюсь, к тому моменту у нас будут и мозги, и «железо», и внятные правила игры. Иначе — хаос.

По материалам: Антифашист