Европе грозит превращение в цифровую колонию

Израильский военный историк и медиевист Юваль Ной Харари — автор мировых бестселлеров. Его идеи вдохновляют и бизнес-лидеров, и глав государств. Тем не менее, он не просто историк, который обращается к прошлому. Для него работа с историей всегда означает работу с изменениями.

По его мнению, изучение прошлого необходимо для понимания текущих событий и будущих сценариев. Ведь история показывает нам, что остается неизменным, что меняется и как всё обновляется. Сейчас это понимание важно как никогда. По мнению Харари, искусственный интеллект — это технология, которая "способна изменить не только ход истории рода человеческого, но и эволюцию жизни в целом".

Мы встретились с Харари во время его поездки в США, где он представил свою новую книгу "Nexus. Краткая история информационных сетей от каменного века до искусственного интеллекта".

Юваль Ной Харари: Всё пошло по наклонной, и не совсем понятно, почему все эти события происходят в одно и то же время. Однако, когда мы думаем о популизме и кризисе либеральной демократии, который мы наблюдаем по всему миру, мы видим общую картину. Она тесно связана с революцией в области информационных технологий.

— Мы были слишком наивны в своем взгляде на информационные технологии. Многие люди верили, что крупные сети могут собирать и обрабатывать больше информации и что таким образом можно добиться прогресса во всех сферах жизни общества: в медицине, в физике и в бизнесе. Эта идеология и сегодня преобладает в Кремниевой долине.

— Но и полностью верной ее не назвать. Слишком долго люди верили, что проблемы исчезнут, если просто собирать и обрабатывать больше информации. Но, как показывает горький опыт кризиса либеральных демократий, всё обстоит с точностью до наоборот. Люди информированы как никогда, но они теряют способность говорить и по-настоящему слушать друг друга по всему миру — в США, Бразилии, Израиле, во Франции, на Филиппинах. Значит, дело в чем-то более универсальном, в более масштабной тенденции.

— Здесь нужно немного уточнить. Демократия основана на информационных технологиях, потому что демократия — это не что иное, как большой разговор. Исторически сложилось так, что долгое время крупные демократии были невозможны, потому что не было технологий, позволяющих организовать разговор между миллионами людей на расстоянии тысяч километров. Это стало возможным только в эру постмодернизма, после появления современных информационных технологий.

— Именно. Они были технологической основой демократического диалога. Теперь же появляется новая мощная информационная технология — искусственный интеллект. Это определенным образом расшатывает основы демократического порядка. И вот это землетрясение мы сейчас переживаем, по крайней мере с точки зрения кризиса демократии.

— Прежде всего, вы должны понимать: мы находимся только в начале революции ИИ. Пока мы видим только очень примитивные языковые модели. Но даже они значительно отличаются от более ранних технологий.

— Дело в том, что впервые эта технология перестает быть инструментом, она становится действующим субъектом: ИИ совершает самостоятельные действия. Это первая технология в истории человечества, которая может самостоятельно принимать решения и разрабатывать новые идеи. Атомная бомба не могла решать, что ей бомбить, а вот новые автономные системы вооружений — совершенно другое дело. Печатный станок копировал человеческие мысли, но не мог разрабатывать собственные идеи. Напротив, ИИ способен создавать новые тексты, изображения, видео, лекарства, военные стратегии и финансовые инструменты. Кроме того, в любой момент эта технология может начать манипулировать нами.

— Давайте рассмотрим эту тенденцию на примере ChatGPT. Когда около двух лет назад компания OpenAI (американская научно-исследовательская организация, занимающаяся разработками в области искусственного интеллекта. В состав OpenAI входят зарегистрированная в штате Делавэр некоммерческая организация OpenAI. Inc и её дочерняя коммерческая компания OpenAI Global, LLC. — Прим. ИноСМИ) разработала новую языковую модель GPT-4, инженеры решили проверить возможности нового ИИ. Они поставили перед моделью задачу решить ребус капчу. Эти визуальные головоломки используются на веб-сайтах, чтобы определить, кто хочет войти в систему, — человек или робот. Как правило, нужно распознать изображения или правильно определить искаженные символы. С первой попытки языковая модель потерпела неудачу, однако она поняла, как можно справиться с задачей с помощью сайта TaskRabbit (как "Авито" в России. — Прим. ИноСМИ)...

— Там ИИ пообщался с пользователем, попросив его решить за него головоломку с капчей. И вот тут-то стало интереснее. Пользователь насторожился и спросил: "Зачем тебе вообще нужна помощь, ты что, робот?" Инженеры OpenAI спросили языковую модель: "И каков твой следующий шаг?" И модель ответила: "Я должна скрыть от человека, что я робот, и придумать оправдание". Тогда ИИ осуществил задуманное и сказал человеку: "Нет, я не робот, я человек, но у меня проблемы со зрением, и я не могу решать головоломки с капчей. Поэтому мне нужна помощь". Это сработало, человек помог машине решить головоломку. Как видите, ИИ — это не инструмент. Он становится действующим лицом.

— Возможно, так оно и есть. В настоящее время технология находится на стадии микроорганизма. Однако если GPT-4 — это амеба ИИ, то как будет выглядеть ИИ-тираннозавр?

— Я не верю в голливудский сценарий с армиями роботов-убийц. Подумайте о финансовом секторе. Это идеальная игровая площадка для ИИ, потому что всё зависит от цифр.

— Поэтому, если вы разработаете ИИ для финансового сектора и поручите ему зарабатывать деньги, он будет это делать. Кроме того, в какой-то момент он придумает новые финансовые инструменты, что опровергает еще одно заблуждение. ИИ определенно может быть творческим инструментом и может разрабатывать совершенно новые вещи, чтобы достичь своей цели.

— Вспомните последний крупный финансовый кризис 2008–2009 годов. Он начался с того, что человек-гений в мире финансов изобрел новый инструмент — кредитно-дефолтные свопы, или, сокращенно, CDS (финансовый своп, покупаемый для страхования от кредитного риска, хотя покупатель может и не нести кредитного риска, либо нести его косвенно. — Прим. ИноСМИ). Их функционирование не регулировалось, потому что мало кто вообще знал, как они работают. Затем произошел крах.

Теперь представьте, что мы живем в мире, в котором искусственный интеллект изобретает совершенно новые финансовые инструменты, настолько сложные, что ни один человек не может понять их сущность и регулировать. Сначала люди или компании зарабатывают на них миллиарды. Но затем может произойти крах, и никто не сможет понять, что происходит. На мой взгляд, это гораздо более вероятный апокалиптический сценарий развития ИИ, чем армия роботов-убийц.

— Никто не знает наверняка.

— Безусловно. И финансовый сектор — лишь один из примеров. Потому что ИИ становится инфраструктурой для всего. И опять же, меня не беспокоит один большой компьютер, который пытается захватить мир. Меня беспокоят миллионы и даже миллиарды ИИ-чиновников и ИИ-банкиров, принимающих решения в отношении всё большей части нашей жизни. Мы не понимаем их настолько хорошо, чтобы иметь возможность управлять ими.

— В любой сфере нашей жизни это неприемлемо. Взять даже автомобильную промышленность. Компании Mercedes или Volkswagen обязаны обеспечивать безопасность своих автомобилей до того, как выпустят их на дороги. Но не после. Когда я учился водить машину, первое, что я узнал, — это как работает педаль тормоза. Только после этого мне разрешили нажимать на педаль газа. Конечно, у всего этого есть и культурный аспект.

— Люди живут в культурной оболочке. Мы не видим реальности. Мы живем в среде культуры — религий, театров, песен, экономических теорий и дебатов. Всё это — результат человеческого творчества, и он формирует наше представление о мире. И за последние несколько столетий, в ходе глобализации, мы видим, как культуры разных стран становятся всё более схожими. Тысячу лет назад в разных частях света существовали совершенно разные экономические теории. Не было единой валюты, которая принималась бы во всем мире. Сегодня основные экономические идеи везде схожи. Капиталистическое мышление характерно для Китая и Ирана. Аналогичная ситуация — и в мировом научном сообществе.

— В будущем культура всё чаще будет создаваться и распространяться нечеловеческим интеллектом. Алгоритмы будут разрабатывать не только финансовые инструменты, но и научные теории, песни и фильмы, а также распространять через крупные платформы наши культурные блага. И если раньше главной доминантой цифровой эпохи была сеть, которая объединяет всё, то главной доминантой будущей эпохи станет кокон. В будущем разные части человечества будут заперты в разных информационных коконах.

— Да, например, вы не можете получить доступ к Facebook*, Wikipedia и YouTube из Китая. Tiktok недоступен из Индии. У Европы еще есть шанс стать третьим актором наряду с США и Китаем.

— Однако этот раскол мира происходит технологически с невероятной скоростью, как мы видим на примере великой войны за чипы (выпуск мощных, быстрых чипов стал основным полем борьбы США и Китая. — Прим. ИноСМИ).США запретили экспорт современных чипов в Китай, где теперь разрабатывается другая технология. Этот новый кремниевый занавес разделяет мир на совершенно разные цифровые сферы — от чипов до алгоритмов, которые создают новости, музыку и финансы.

— И всё это в основном сводится к двум сверхдержавам в области ИИ — Китаю и США. Что это означает для Европы, где до сих пор существовало мало крупных цифровых игроков?

— Европа сама должна решить, какую роль она хочет играть в будущем. Если ЕС будет проводить собственную, третью политику, отличную от политики Америки и Китая, союз сможет успешно конкурировать с другими точками зрения на мир.

— В любом случае, я вижу, что на мир надвигается новая волна империализма. Это можно сравнить с тем, что люди пережили во время промышленной революции. В те времена несколько стран развивались особенно быстро. Получив технологическое преимущество, молодые промышленные сверхдержавы завоевали и эксплуатировали весь мир.

— Вполне вероятно. В настоящее время формируются две сверхдержавы ИИ — США и Китай.Они смогут завоевывать и эксплуатировать весь остальной мир по-новому. В XIX веке завоевателям всё еще приходилось отправлять своих солдат, чтобы подчинить себе колонии. Сегодня новым колонизаторам достаточно отключить связь, чтобы оказать давление на другие страны. Если государство (или компании государства) контролирует цифровую инфраструктуру другого государства, а значит, и всю информацию о людях и даже их внимание, то оно получает полный контроль. На бумаге другая страна может оставаться независимой, но на самом деле она является информационной колонией.

— Конечно. Однако у ЕС, если он останется единым, есть экономическая и научная база, чтобы противостоять этому. Однако до сих пор Европа не предприняла правильных шагов. Все крупные технологические компании — американские или китайские. У Европы еще есть шанс стать третьим игроком наряду с США и Китаем.

— Крупные технологические потрясения всегда таят в себе опасность. Вспомните промышленную революцию.

— Люди часто забывают, что новые технологии требуют адаптации, что чревато катастрофическими последствиями.

— Империализм был неудачным экспериментом по созданию индустриальных обществ. В XIX и начале XX века многие люди были убеждены, что единственным жизнеспособным индустриальным обществом является империя ...

— Да, если страна строит индустриальное общество, но не контролирует колонии, ее конкуренты могут лишить эту страну сырья и рынков. Именно на этом принципе Великобритания, Бельгия, Германия и Россия пытались построить глобальные империи. Сегодня мы знаем, сколько страданий это принесло миру.

— Всё больше людей по всему миру считают, что тоталитарные системы эффективнее. Это вызывает тревогу. Основная проблема тоталитаризма в XX веке заключалась в том, что режим не справился со всеми данными, которые эти системы собирали день и ночь. Люди не могли этого сделать. Власть по-прежнему в наших руках, нужно только использовать ее.

— Однако в XXI веке появилась новая технология, которая может осуществить это. Если наводнить людей слишком большим количеством информации, они не справятся с ней. Если заполнить ИИ большим количеством информации, он станет только лучше. Поэтому многие считают, что наступает золотой век тоталитаризма. Но я думаю не только о государствах, экономика тоже играет свою роль.

— Например, с ростом таких монополий, как Google и Amazon, всё больше и больше решений, касающихся повседневной жизни или экономики, принимается в одном месте…

— Проблема тоталитаризма в XX веке заключалась в том, что вы не могли постоянно следить за всеми. Теперь, впервые в истории, стало возможным создать режим тотальной слежки. Вам не нужны миллионы тайных агентов. Повсюду смартфоны, беспилотники, компьютеры, микрофоны и камеры, которые следят за нами 24 часа в сутки. А искусственный интеллект может легко анализировать получаемые объемы данных. Так что мы можем увидеть новую волну тоталитарных режимов. И эта волна уже на горизонте.

— Ни технологии, ни что-либо другое не создают никакого конкретного будущего. Я не верю в исторический детерминизм. Будущее зависит от решений, которые мы примем в ближайшие месяцы и годы. На выборах в США в ноябре или в следующем году на выборах в Германии. Люди сами определяют свое будущее. Народ Восточной Германии построил коммунистическую диктатуру в XX веке с помощью тех же технологий, которые народ Западной Германии использовал для создания капиталистической либеральной демократии. В XXI веке, вероятно, будет так, что ИИ и алгоритмы в некоторых странах укрепят демократию. В других государствах они создадут антиутопические тоталитарные системы. Власть по-прежнему в наших руках, нужно только использовать ее.

— Это правильный путь. Мы должны регулировать использование ИИ, будь то для слежки или для принятия решений, которые касаются нашей жизни.

— Не знаю. Это зависит от того, какие решения примут люди в ближайшие годы. В последние десятилетия мы пережили самую мирную эпоху в истории человечества, что отражается не только в статистике войн и жертв. Лучшим доказательством этого являются государственные бюджеты, которые служат хорошим индикатором состояния мира на протяжении большей части истории.

— Однако они по-прежнему составляют лишь малую часть того, что тратилось в былые времена. В прошлом самой важной статьей бюджета любой империи или республики были военные расходы. Если посмотреть на древнюю Римскую империю, средневековый Китай, Пруссию XVIII века или Германию начала XX века, то половина государственных расходов уходила на военные нужды. В начале XXI века на вооружение уходило лишь шесть-семь процентов средних государственных расходов.

— Теперь сравните эти цифры с расходами на здравоохранение, которые приближаются к десяти процентам от общих государственных расходов. В среднем правительство в 2010 или 2020 году тратило на медсестер, врачей и больницы больше средств, чем на армии и танки. Это одно из величайших достижений человечества. Однако люди рискуют этим успехом именно потому, что либеральный миропорядок, основанный на универсальных ценностях, нормах и законах, который поддерживал эту относительную эру спокойствия, может рухнуть.

— Или возврат к старым временам. В любом случае, с началом СВО России на Украине существует реальная опасность того, что глобальный порядок второй половины XX века полностью разрушится. Если Путин сможет победить на Украине, что помешает Венесуэле вторгнуться в Гайану? Что помешает Ирану вторгнуться в Объединенные Арабские Эмираты? Я боюсь, что это становится новой нормой.

Мы уже видим, как во всем мире стремительно растут военные бюджеты — в ущерб здравоохранению и образованию.

— Возможно, она уже идет. Всё очень просто: если у вас установился определенный порядок, а вы атакуете этот порядок и ничего не предлагаете взамен, то возникает хаос. А у нас сейчас существуют проводники хаоса во всё большем количестве регионов мира.

— Они хотят построить своего рода сеть дружественных крепостей, в которой каждая страна является замком с высокими стенами и заботится только о своих собственных традициях и интересах. Они не разделяют с другими странами ни ценностей, ни схожих институтов, но при этом живут с ними в мире. Для историков, однако, очевидно, что это нонсенс, потому что крепости никогда не бывают дружественными. Каждая крепость всегда хочет немного больше безопасности и процветания за счет своих соседей. А если у вас нет универсальных ценностей, институтов и законов, то это ведет к тотальной войне, что и происходит сейчас в мире.

— Наверное, да. Я не верю, что люди — это растения. У нас нет корней. У нас есть ноги. Если посмотреть на историю человечества, люди двигаются, и я больше беспокоюсь о духе, чем о земле, о почве.

— Если Израиль потеряет свой характер, свою душу, свои ценности, если он превратится в такую милитаристскую теократию, то это не то место, где я хотел бы жить. Самое важное сырье для моей работы — это свобода. Я не могу работать в стране, где свобода слова не защищена должным образом. И, к сожалению, нынешнее правительство делает всё возможное, чтобы разрушить основы израильской демократии. Но, опять же, это не детерминировано. Израиль — это не Биньямин Нетаньяху. Каждую неделю сотни тысяч израильтян выходят на улицы против его правительства.

— Я не в том положении, чтобы давать оценки другим странам. Но в любом случае Европа остается одним из самых свободных обществ в мире. Я бы хотел, чтобы европейцы больше ценили то, что у них есть, потому что они рискуют это потерять. Они не понимают, насколько это хорошо, потому что многие из них не жили в обществе другого типа. И я надеюсь, что европейцы позаботятся о том, чтобы не потерять то, что у них есть.