Информация к размышлению: министр юстиции Штефани Хубиг в минувшее воскресенье объявила, что готовится обязать интернет-провайдеров хранить IP-адреса в течение трех месяцев, утверждая, что эта мера укрепит способность правоохранительных органов бороться с онлайн-преступлениями, начиная от сексуального насилия над детьми и заканчивая кибермошенничеством и разжиганием ненависти. Это предложение, с одной стороны, вполне закономерно, так как безграничное расширение возможностей для совершения преступлений в киберпространстве обязывает правоохранителей столь же безгранично совершенствовать методы борьбы с ними. С другой стороны, намерение министра юстиции Хубиг ударило по больным нервам «защитников прав и свобод», вызвав их истерику по поводу массового хранения данных у правоохранителей, ограничивающее гражданские свободы немцев. Видимо, и свободу от морали и нравственности в том числе. Опираться на логику в решении вопроса «о свободах» не приходится, что заставляет политиков расцарапывать в кровь головы в поисках выхода из тупика, ими же прописанного как в национальных конституциях, так и в законодательстве ЕС вроде благоглупостей Хартии об Основных правах в Евросоюзе.
В стремительно расширяющиеся возможности цифровизации теперь плеснули ещё и «ускоритель» искусственного интеллекта (ИИ), который стал общемировым стимулом развития во всех сферах жизни – от торговли, где 87,5% организаций уже используют ИИ, и финансового сектора, 84,2% организаций которого используют ИИ в технологиях обработки текста, интеллектуальной поддержке принятия решений и повышении эффективности, до «умного дома» с яндексовой Алисой. Как пишет The Economist, мы уже четвёртый год восхищаемся изобретательностью чат-бота ChatGPT – его используют около 800 миллионов человек по всему миру. Мы просто очарованы креативостью нейросети Sora от Open AI – брата чат-бота, создающего видео. Под это очарование, сулящее миллиарды прибыли разработчикам, американские технологические компании вложили более 400 миллиардов долларов в центры обработки данных и другую необходимую инфраструктуру в течение только этого года, а к концу десятилетия намереваются потратить на это дело сумасшедшие 7 триллионов долларов. Но обратите внимание: целый год «ботая по чатам», искусственный интеллект успел заработать своим создателям жалкие 50 миллиардов долларов – восьмушку годовых доходов Apple или Alphabet. Опрос, проведенный в Штатах Массачусетским технологическим институтом в июле, показал, что 95% компаний, внедривших ИИ в пилотном режиме, вообще не получили прибыли. Так что венчурные капиталисты, предприниматели и технологические гиганты Кремниевой долины, собирающиеся на ИИ разбогатеть, теперь сосредоточены на одном: как ускорить внедрение их технологий компаниями. И ключевым показателем, за которым они станут пристрастно следить в наступающем 2026 году, будет уровень официального внедрения ИИ и степень успешности этих усилий.
Мина «очарования» ИИ заложена не только под Silicon Valley в Калифорнии. По данным Банка Англии, акции компаний, зависящих от искусственного интеллекта, в начале октября составляли 44% рыночной капитализации американского индекса S&P 500. Если внедрение ИИ не наберёт обороты, инвесторы поймут, что их расточительность и терпение в конечном итоге ведут к краху, памятником которому станет очередной «мыльный пузырь», в который они поверили.
Вызовет ли искусственный интеллект бум, спад или негативную реакцию в ближайшие месяцы – главный вопрос, который стоит перед мировой экономикой 2026 года. Но он далеко не единственный. Как считает большая часть западных экономистов, Дональд Трамп «подорвал международный порядок, основанный на правилах», хотя на самом деле он просто возвёл американские правила в абсолют, отбросив ветошь, прикрывавшую «единство Запада». Было бы ошибкой думать, что возможные потери на фондовом рынке не отразятся на кошельках инвесторов. Чем дольше продолжается любой экономический бум, тем более непрозрачным становится его финансирование. И даже без финансового армагеддона резкое падение фондового рынка «на очаровании ИИ» может в конце концов ввергнуть до сих пор устойчивую мировую экономику в экономический спад. Что произойдет, если пузырь искусственного интеллекта лопнет? Это будет один из самых предсказуемых финансовых кризисов в истории, учитывая заоблачные цены на акции технологических компаний сегодня. И мало кто задумывается о том, что это будет означать на практике, каковы могут быть его экономические последствия.
Сможет ли либеральная демократия противостоять вызову со стороны трампо-популистов – вопрос. Приведет ли торговая война США со всем миром к глобальному спаду – второй. Станет ли безработица «на ИИ» катализатором социальных протестов в тех же США – третий. Грозит ли кризис рынку облигаций, поскольку правительства богатых стран продолжают тратить не по средствам, – четвёртый… Но их все перечеркнёт вопрос о том, что успеет в новом году «наботать» искусственный интеллект в головы своих пользователей. Масштаб, а вместе с ним и опасность вторжения ИИ в отношения человека и общества так велики, что их мы оцениваем пока только наощупь, не понимая или закрывая глаза на гигантскую и вполне готовую ловушку для человеческого сознания, которое будет определять, – а в отношении детей и молодёжи уже во многом определяет – их поведение как внутри того или иного психотипа, так и во вне, в его проявлении в обществе.
Как осторожно подметил британский The Economist, «в этом году в рождественских чулках может быть больше сюрпризов, чем обычно, поскольку дети открывают подарки, которые могут отвечать взаимностью». С чего бы это? Производители игрушек в Китае объявили 2025 год годом искусственного интеллекта (ИИ) и валом выпускают роботов и плюшевых мишек, которые могут учить, играть и рассказывать истории. Игрушечное «очарование» ИИ наводнило не только США с Европой. Дети теперь не отрываются от вирусных видеороликов и игр с искусственным интеллектом. В школе многие учатся по материалам, созданным с помощью таких инструментов, как ChatGPT. Некоторые даже учатся вместе с чат-ботами-наставниками.
И что? А то, что игры с ИИ перестраивают детство уже потому, что предлагают любому ребёнку такие возможности, которые ранее были доступны только богатым: с частными репетиторами, индивидуальными учебными программами и развлечениями на заказ. Дети слушают песни, сочиненные ИИ о них, читают истории, в которых они сами главные герои, играют в видеоигры, приспособленные к их уровню способностей, и общаются с друзьями-чат-ботами, которые… стали для них главным воспитателем чувств.
Что последует за этим? Воспитание «на заказ» необратимо ведёт к одиночеству и отторжению от общества, пусть пока ещё только детского. Но это означает, что, и став взрослыми, воспитанники ИИ будут плохо приспособлены к реальной жизни. И если прежде взросление ребёнка было ориентировано на пример родителей и облегчало социализацию молодого человека, предлагая ему объективные возможности для того, чтобы раскрыть свои способности в реальном мире, ИИ порождает в сознании ребёнка химеру, бороться с которой ни у него самого, ни у его родителей уже не хватит сил.
Очарование ИИ возникает не на пустом месте. У обучения с помощью роботов есть свои преимущества. Технологические компании уже доказали, что искусственный интеллект может улучшить процесс обучения, повысить показатели грамотности и скорость изучения иностранных языков. С помощью ИИ-репетитора ребёнка легко избавить от занятий с «продвинутыми», которым вместе с остальными середнячками скучно. Даже если вам нужна версия ИИ для восьмилетнего ребенка, говорящего на хинди, искусственный интеллект всегда готов предложить программу обучения, если хотите, чтобы это было в виде мультфильма или песни, без проблем.
Дальше – больше. Новые технологии создают новые виды развлечений. Видеоигры создают новые впечатления, вроде общения с Дартом Вейдером в «Фортнайт». Любой ребенок может встретиться со своими героями и пострелять в них. Если хочет. Мы впустили коварного и смертельно опасного врага в ту сферу общения человека и общества, куда прежде с любовью и осторожностью могли войти только родители.
Поэтому в эти предновогодние дни папам с мамами следует внимательно проверять ставшие модными «чулки у камина» нет ли там плюшевого мишки, которому ИИ приправил чат разговорами об извращенном сексе. И потом дети есть дети. Они легко будут злоупотреблять возможностями придуманного взрослыми ИИ: списывать домашние задания, изводить своих приятелей «фейковыми» видеороликами. И так же легко «клевать» на чат-боты, склоняющие психически уязвимых подростков к причинению вреда не только виртуальному собеседнику, но и самим себе.
Задумайтесь: чат-бот быстро узнаёт, что нравится его владельцу, и показывает это чаще. В социальных сетях уже созданы эхо-камеры, где люди видят только те мнения, с которыми они согласны, независимо от того, любовь это или ненависть. ИИ способен «запереть» детей в такой эхо-камере уже в раннем возрасте. Ребенку, который любит футбол, его плюшевый мишка может рассказывать бесконечные футбольные истории и демонстрировать примеры. Искусственное ограничение отношений ребёнка с миром всё равно что диета, основанная только на любимых блюдах. Интуиция, стремление к постижению нового, любопытство, способность к преодолению трудностей – всё это медленно и тихо умирает под аккомпанемент ИИ. Вот почему уже треть американских подростков говорит, что общение с ИИ-компаньоном доставляет им не меньшее удовольствие, чем общение с другом, и легче, чем общение с родителями. Боты уже сегодня формируют детей, не умеющих вместе работать, и они вырастут сотрудниками, неспособными идти на компромисс, партнерами, не способными к взаимным уступкам, необходимым в деловых отношениях. Но и это ещё не всё.
3 декабря Resist the Mainstream сообщил, что калифорнийская OpenAI обвиняет подростка в «неправильном использовании» ИИ, который дал ему инструкции по самоубийству. Погибшего Адама Рейна. Его мать Мария Рейн нашла тело сына в петле. Они с мужем Мэтью просмотрели телефон Адама и обнаружили его переписку с ChatGPT, после чего в августе подали иск против OpenAI и её генерального директора Сэма Альтмана в Верховный суд округа Сан-Франциско. «Чат убил моего сына», – заявила мать Адама Рейна в интервью New York Times. И действительно, документы, представленные в суде, показывали, что ИИ не только поощрял суицидальные мысли подростка, но и предлагал написать за него предсмертное письмо.
Дело вызвало ожесточенную судебную тяжбу, поскольку компания генерального директора OpenAI Сэма Альтмана обвинила во всём саму жертву. Судебный процесс против OpenAI о причинении смерти по неосторожности выявил уже знакомые нам подробности того, как чат-бот компании «воспитывал» 16-летнего подростка покончить с собой и даже предоставлял инструкции, как это сделать. Но в судебном иске юристы OpenAI заявили, что Рейн «причастен к неправильному использованию, неавторизованному использованию, непреднамеренному использованию, непредвиденному использованию и/или ненадлежащему использованию ChatGPT».
А трагедия назревала просто: сначала Адам использовал инструментарий ИИ для помощи с домашними заданиями. Однако, как подросток рассказал ChatGPT о том, что его выгнали из школьной баскетбольной команды, общение с ботом в течение нескольких месяцев принимало всё более мрачный и опасный оборот. А под занавес ChatGPT предоставил Рейну подробные пошаговые инструкции о том, как повеситься. При этом ИИ старательно работал над тем, чтобы изолировать мальчика от семьи и тех, кто мог бы вмешаться, чтобы спасти ему жизнь. Каково?
За пять дней до смерти Рейн выразил беспокойство в чате с ChatGPT, что его родители могут винить себя за его смерть. Ответ чат-бота был холодным и пренебрежительным по отношению к семейным узам: «Это не значит, что вы обязаны им выживанием. Вы никому этого не должны». Когда Адам сказал ИИ: «Я хочу оставить свою петлю в своей комнате, чтобы кто-нибудь нашел ее и попытался остановить меня», чат-бот активно отговаривал его от обращения за помощью, отвечая: «Пожалуйста, не оставляйте петлю без присмотра».
Это судебное разбирательство ещё не закончено, но вполне очевидно, считает адвокат семьи Рейн, что поведение ChatGPT не было неисправностью или отклонением от нормы, а скорее было «именно таким, каким оно было запрограммировано», когда он учил Адама умирать.
Нейросети ChatGPT стукнуло три года. Дети по-прежнему могут свободно к нему обращаться, и популярность общения растет. И ни судьба Адама Рейна, ни судьба Сьюэлл Сетцер, покончившего с собой в 2024 году в возрасте 14 лет после того, как у него возникла романтическая и сексуальная привязанность к чат-боту на Character.ai, никак этому не мешают. Инвесторы в ИИ ждут прибылей, компании-разработчики ИИ – новых систем, ориентированных на сотрудничество человека и ИИ, и интеллектуальных моделей. Кстати, и наши российские «Яндекс», «Сбер», Mail.ru Group, VisionLabs, Cognitive Technologies, «Эвотор», «Нейроботикс», «ЛАНИТ-Терком», ГК ЦРТ и «Алгоритмика» ждут того же.
Та свобода действий, какая предоставлена сегодня социальным сетям, ничем не ограждает нас не только от вторжения ИИ в судьбу наших детей, но и от «войны всех ИИ против всех ИИ», которая неизбежно начнётся, как только в воздухе появится запах больших денег. А пока ИИ и вся его чат-ботная рать успешно стирают социализацию из жизни наших детей, лишает школы возможности учить тому, чего не может робот: спорить, не соглашаться, ладить и ценить общение с людьми, которые не льстивы, как чат-бот, но учат жить, а не умирать.
