Убить ИИ нельзя сосуществовать с ИИ: хроники вероятного апокалипсиса

ИИ как оружие: кто на самом деле нажимает на курок?

Сценарий, при котором искусственный разум перехватывает управление ядерным арсеналом, остается уделом голливудских блокбастеров. Доступа к системам глобального поражения у современных нейросетей нет, и в обозримом будущем не предвидится. Гораздо более реален другой путь: люди сами, движимые жаждой выгоды или недальновидностью, снимают с ИИ предохранители. Яркий пример — использование алгоритмов для автоматического завышения цен на маркетплейсах или создание дипфейков для манипуляции общественным мнением. В этой парадигме ИИ — не злонамеренный субъект, а идеальное оружие в руках технофеодалов, контролирующих цифровые платформы.

Паттерны вместо мыслей: почему ИИ — это «всеведущий социопат»

В 2023 году «крестный отец ИИ» Джеффри Хинтон покинул Google, чтобы свободно говорить об угрозах технологии. Его главная тревога связана не с тем, что ИИ превзойдет человека, а с тем, что он станет принципиально иным. Искусственный разум находит паттерны, недоступные биологическому мозгу, и пишет код, логику которого люди не в состоянии объяснить. Чем активнее корпорации, ввязавшись в гонку за лидерство, инвестируют в развитие ИИ, тем более непостижимым и, следовательно, опасным он становится. Ответственность за последствия применения этого мощного, но слепого инструмента целиком лежит на его создателях.

Подписанты открытого письма Future of Life Institute, включая Илона Маска и Стива Возняка, призвали к временной паузе в разработке сверхмощных моделей, пока человечество не научится их контролировать. Вопрос не в том, уничтожит ли нас Терминатор, а в том, сможем ли мы управлять системой, которая сама управляет нашими жизнями, — от финансовых рынков до систем здравоохранения. История учит, что при столкновении с неведомым у человечества есть два пути: уничтожить или понять. У нас еще есть время, чтобы выбрать второй.