Корнев объяснил, как не допустить восстания машин с искусственным интеллектом
Американский военный беспилотник-носитель ядерной ракеты «убил» своего оператора во время испытаний. Как машина с искусственным интеллектом совершила такую чудовищную ошибку, рассказал военный эксперт Дмитрий Корнев.
Дрон-разведчик, который может переносить крылатые ракеты с ядерным зарядом, Kratos XQ-58 Valkyrie, проходил испытания. Перед машиной с искусственным интеллектом (ИИ) поставили задачу — найти и вывести из строя зенитный ракетный комплекс условного противника. Действия техника должна была выполнять под надзором оператора, рассказал глава управления по ИИ ВВС США Такер Гамильтон на военном саммите Future Combat Air & Space Capabilities в Великобритании.
Дрон несколько раз обнаруживал ЗРК и даже хотел атаковать их, но человек, который им управлял, постоянно требовал «не уничтожать» объект. ИИ же получал баллы только если производит удачную атаку. В результате искусственный интеллект «взбесился», вернулся на базу, уничтожил фургон управления с оператором и вернулся к выполнению своих задач.
«ИИ "убил" оператора, потому что он мешал ему достичь своей цели», — отметил Гамильтон.
Kratos XQ-58 Valkyrie является «глазами и ушами» американских самолетов F-22 и F-35 — это аналог беспилотника «Охотник» для российского истребителя пятого поколения Су-57. Дрон может наводить ракеты боевых машин на цель. Также «Валькирия» способна нести ядерный боезаряд.
Пугаться не стоит
Стоит сразу обозначить, что испытания Kratos XQ-58 Valkyrie проходили виртуально, в компьютерной программе по симуляции работы дрона, рассказал «ПолитЭксперту» военный эксперт, редактор сайта MilitaryRussia Дмитрий Корнев.
«Скорее всего, проблема в том, что у дрона не было сдерживающих условий. Нужно поставить себя на место беспилотника. Предположим, есть фактор, который мешает вам зарабатывать очки — это определенное поведение оператора. Вы обнаружили проблему. Что будете делать? Это как в жизни: переходите дорогу, перед вами кирпичная стена. Будете продолжать идти или обойдете ее? Скорее всего, второе», — сказал собеседник ПЭ.
Чтобы дрон не уничтожил невинного человека, ему нужно объяснить с помощью кода, какие цели можно уничтожать, а какие — нет. Вещи, которые очевидны людям, не кажутся таковыми беспилотникам. По мнению военного эксперта, США доработают «Валькирию», чтобы не повторить таких ошибок уже в реальной жизни.
«Это один из интересных, любопытных моментов, которые сопровождают разработку новой техники на искусственном интеллекте. То есть становится понятно, что, если у боевых машин на ИИ не оговорены какие-то базовые условия, то их поведение непредсказуемо», — сказал Корнев.
Будущее современных боевых машин
В будущем люди не смогут отказаться от использования искусственного интеллекта как в военной сфере, так и в гражданской. Не применять ИИ будет невозможно, считает Корнев.
«Мы ведь пользуемся автомобилями. Они тоже очень опасны. Когда их только создали, было ощущение, что их надо немедленно запретить. Летать на самолетах тоже "категорически опасно, дьявольщина какая-то" — считали когда-то люди. Точно также с ИИ. Мы уже сейчас пользуемся плодами искусственного интеллекта и будем продолжать делать это, в том числе в военной сфере», — подчеркнул военный эксперт.
Самое главное — следить за тем, чтобы разработчики качественно создавали ИИ, не допускали ошибок в настройках, тогда никакого восстания машин не будет. Соответственно, у создателей программного обеспечения должна быть высокая квалификация, уверен Корнев.
Ранее председатель Комитета начальников штабов Вооруженных сил США Марк Милли заявил, что искусственный интеллект является самой мощной технологией для ведения войны.
