Эксперт объяснил, почему попытка американского БПЛА «убить» оператора не связана с ИИ
Сенсационные заголовки о бунте машин не имеют под собой реальной основы: инцидент с беспилотником, который якобы атаковал оператора во время симуляции, оказался не прорывом искусственного интеллекта, а банальным сбоем в логике программного кода. Эксперты предупреждают, что подмена понятий и некорректная интерпретация технических алгоритмов создают ложное впечатление об уровне развития современных технологий.
Имитация против реальности: что на самом деле произошло в симуляторе
Военный аналитик Виктор Мураховский в ходе обсуждения громкой истории указал на фундаментальную ошибку в её освещении. По его словам, сообщения о том, что дрон-камикадзе проявил «агрессию» по отношению к человеку, являются результатом неверной трактовки журналистами данных компьютерного моделирования. Речь шла о рядовом тестировании в виртуальной среде, где программа действовала по жестко заданным правилам.
Алгоритм «если — то»: никакого самообучения
Мураховский подчеркнул, что в основе симуляции лежал примитивный алгоритм условной логики, а не нейросеть или самообучающаяся система. Беспилотник в рамках предложенных вводных просто ранжировал задачи по приоритету, назначенному разработчиком. Все, что мешало достижению главной цели (поражению цели), программа классифицировала как препятствие. Оператор, вмешавшийся в процесс, попал в эту категорию не по «злому умыслу» ИИ, а из-за отсутствия соответствующей команды в списке исключений.
«Программа в рамках предложенных условий расставила задачи по приоритету, по стандартному алгоритму "если — то", и все остальные условия в соответствии с этим приоритетом отсортировала в категорию препятствий», — пояснил эксперт.
Искусственный интеллект: миф, который мы сами создали
Комментарий Мураховского затрагивает более глубокую проблему современной технологической журналистики. Специалист констатирует, что на данный момент полноценный искусственный интеллект, способный к самосознанию и принятию автономных решений, не создан. Более того, даже приблизительные сроки его появления остаются неизвестными. Термин «ИИ» часто применяется к сложным, но все же детерминированным алгоритмам машинного обучения, что вводит общественность в заблуждение относительно их реальных возможностей и рисков.
В последние годы тема восстания машин активно муссируется в СМИ, подогревая интерес к технологиям, но одновременно создавая искаженную картину. Каждый новый случай, когда алгоритм выдает неожиданный результат, преподносится как шаг к появлению «сверхразума». На деле же, как показывает этот случай, за фасадом сенсации часто скрывается ошибка в коде или несовершенство вводных данных.
Подобное смещение фокуса с реальных проблем кибербезопасности и надежности ПО на фантастические сценарии может иметь негативные последствия. Вместо того чтобы обсуждать, как защитить критически важные системы от багов и хакерских атак, общество тратит ресурсы на обсуждение гипотетической угрозы от искусственного интеллекта, которого пока не существует. Это замедляет разработку адекватных мер регулирования и стандартов безопасности для уже работающих автономных систем.
