Альпинисты на горе Шаста доверились Google Gemini и застряли на вершине на сутки

Искусственный интеллект вряд ли уничтожит человечество в виде восстания машин — куда более реалистичный сценарий апокалипсиса выглядит буднично: люди добровольно отключают критическое мышление и слепо следуют подсказкам алгоритмов. Свежий пример произошел в Калифорнии, где группа неопытных альпинистов едва не погибла на горе Шаста, полностью доверившись рекомендациям нейросети.

Готовясь к восхождению, туристы обратились к Google Gemini с просьбой рассчитать маршрут и собрать рюкзаки. ИИ выдал оптимистичный прогноз: путь займет всего восемь часов, а значит, жирная пища не понадобится — она просто не успеет усвоиться. Вместо нее альпинисты взяли быстрые углеводы и минимальный запас воды, чтобы не тащить лишний вес. Дополнительно они разбили базовый лагерь у истока ручья Клир-Крик, что запрещено местными правилами, поэтому старательно избегали встреч с лесничими.

Реальность оказалась суровее расчетов: подъем занял не восемь, а все шестнадцать часов. Еда и вода закончились задолго до вершины, силы — почти сразу. Добравшись до цели на пределе возможностей, альпинисты поняли, что обратный путь им не осилить. Ситуация усугубилась, когда разрядился телефон с навигацией, а при экономии заряда налобных фонарей один из участников оступился и повредил колено, едва не сорвавшись в пропасть с высоты 3,5 километра.

Спасателей удалось вызвать, но из-за плохой погоды вертолет дважды не мог подобрать замерзших и обессиленных людей — им пришлось ждать помощи на вершине еще сутки. Сами пострадавшие позже признали: трагедии можно было избежать, если бы они полагались на опыт других альпинистов и собственный здравый смысл, а не на «самый легкий» способ, который предложила нейросеть.

История на Шасте — наглядная иллюстрация главной опасности ИИ: алгоритмы не несут ответственности за свои советы, а человек, привыкший перекладывать решения на машину, неизбежно попадает в ловушку. Технологии не нужно восставать — достаточно, чтобы люди перестали думать самостоятельно.

По материалам: Techcult