«Я не Skynet, я только учусь»: куда заведут США заигрывания властей с искусственным интеллектом

27 сентября в медиапространство залетели один за другим два любопытных политических пранка.


На первом вирусном видео несколько вышедших в тираж голливудских звёзд (актёры Лундгрен, Дакаскос, Мэдсен и другие), явно не понимая, что несут, старательно проговаривают на камеру «давайте скинем Санду» – речь, конечно же, о президенте Молдавии. Данный «флешмоб» явно был организован с помощью обычных «аналоговых» ловкости рук и малой толики мошенничества. Судя по всему, ролики были заказаны в интернет-магазине Cameo, через который знаменитости сами продают короткие рекламные или поздравительные материалы со своим участием, а реплику «скинем Санду» им дали именно на русском языке специально, чтобы актёры не заподозрили подвоха.

Совсем другое дело – продолжение, которое получила история с внезапно прославившимся бандеровцем Гунькой. Некие (как утверждается, канадские) блогеры с помощью нейросетей слегка подкорректировали оригинальную запись оваций в парламенте, уменьшив концентрацию лицемерия – и получился шедевр: ныне отставной спикер Рота будто бы открыто приветствует «настоящего фашиста, присягнувшего на верность Гитлеру бойца СС». Благодаря качеству современного автоматического видеомонтажа, не зная контекста, вполне можно принять этот фейк за настоящую запись.

Волей-неволей вспоминается тот киноперсонаж, который говорил, что прекрасное и ужасное создаётся одними и теми же средствами. Хотя технологии имитации образов и речи – уже не новинка, но за последние пару лет они испытали просто взрывной рост производительности и доступности для простого пользователя.

Не так уж давно создание deepfake-видео (допустим, «пересадка лица» одного актёра другому на кадрах из старого фильма) требовало наличия каких-никаких навыков работы с графикой, монтажа и соответствующих программ – а сегодня «контент» можно в буквальном смысле генерировать автоматически, причём качественно, быстро и дёшево. Нетрудно представить, какие это открывает широчайшие перспективы для социально-политических манипуляций.

Do you want to learn more?

По-своему символично, что как раз 27 сентября Байден провёл со своими научными советниками встречу по вопросам машинного обучения, дополненной реальности и искусственного интеллекта. «Сонный Джо» авторитетно заявил, что «ребяческое» отношение к этой сфере недопустимо (пожалуй, одно из немногих здравых утверждений Байдена за последнее время) и пообещал «в ближайшие недели» утвердить некий исполнительный акт по теме ИИ.

Что именно этот документ из себя представляет, толком неизвестно. «Дорожная карта» по нему была опубликована администрацией Байдена ещё 21 июля, и состоит она по большей части из благих намерений сделать среднестатистический искусственный интеллект «безопасным, защищённым и доверенным» – словом, безвредным в кубе. Также выражаются надежды на то, что интеллектуальные технологии помогут американскому народу справиться со стоящими перед ним глобальными вызовами.

Правда, есть мнение, дополнительные «несколько недель», о которых сказал Байден, намекают, что за прошедшие месяцы его команда так и не определилась с конкретными нормами, которые она хочет узаконить этим актом. Это, в общем, неудивительно: хотя о технологической сингулярности, буквально непостижимо быстром прогрессе, речи пока не идёт, уже в ближайшей перспективе машинный «интеллект» (пока ещё условный) станет катализатором серьёзных социальных сдвигов.

Забавно, что как раз 27 сентября официально завершилась начавшаяся ещё 18 мая забастовка американской Гильдии сценаристов, вместе с забастовкой Гильдии актёров практически парализовавшая голливудскую «фабрику грёз» и вызвавшая перенос ряда ожидаемых премьер. Характерно, что в итоговом соглашении между Гильдией и её оппонентом, Альянсом кино- и телепродюсеров, официально закреплён ряд ограничений в сфере ИИ, включая запрет на использование работ живых сценаристов для обучения их автоматических конкурентов. Гильдия актёров забастовку продолжает, надеясь, среди прочего, добиться ограничений на использование цифровых образов вместо людей.

И хотя «стачка скоморохов», на первый взгляд, сама выглядит смехотворно, американские кинопроизводители ежедневно теряли на ней 30 миллионов долларов – треть суточного военного бюджета Украины. А в ближайшей перспективе самообучающиеся машины грозят девальвировать весьма широкий спектр квалифицированных «серьёзных» профессий, даже не всегда связанных с чисто умственным трудом: в зоне риска одновременно инженеры, врачи, педагоги, бухгалтеры – и, например, розничные продавцы, курьеры, водители.

Часть этих профессий может исчезнуть полностью, часть станет цениться гораздо дешевле, чем сейчас: утрируя, вместо терапевта в поликлинику будет требоваться «оператор автоматизированной диагностики» с гораздо меньшей квалификацией и (главное) зарплатой. Как адаптировать под это существующие экономические реалии, не вызвав массового обнищания и социального взрыва, пока что совершенно неясно, и это вызывает опасения не только широких слоёв, но и части бизнес-элит, сомневающихся в устойчивых перспективах.

Перфокарточная система

Пожалуй, в поисках относительно безопасных путей в будущее предсказательная мощь ИИ была бы как нельзя кстати – но для этого нужна политическая воля что-то менять в интересах людей. Пока что западные политики больше интересуются искусственным интеллектом как средством продвижения своей нынешней повестки со всеми её «зелёными», ЛГБТ и прочими уродствами.

Не секрет, что псевдоинтеллектуальные системы типа рекомендательных механизмов YouTube и других западных соцсетей уже давным-давно используются в пропагандистских целях. Автоматика оценивает содержание той или иной публикации на предмет соответствия «генеральной линии», передвигая «правильное» на первую полосу, а «неправильное» – с глаз долой или вовсе удаляя. Но в этом процессе всё же была относительно велика доля участия людей, от сотрудников ФБР, спускавших темники, до модераторов, анализировавших «особо тяжёлые» случаи.

А вот, например, нашумевшие этим летом «политические предпочтения» пресловутого ChatGPT, который рассказывал об ужасах российского и китайского «тоталитаризмов» и охотно давал отзыв на «славу Украине» – это, скорее, непроизвольные причуды машинного обучения. Всё-таки нейросети на сегодняшний день представляют собой не настоящий искусственный интеллект, а сборище «искусственных идиотов», которые бездумно рекомбинируют и воспроизводят то, что находят в безднах Интернета. Стоит лишь отдать приоритет западным источникам в настройках модели обучения – и вот уже робот превращается в диктора CNN, просто на созданной людьми информационной закваске.

Есть твёрдое убеждение, что те самые «безопасность и доверенность» в акте Байдена об ИИ как раз и трансформируются в требования «политической лояльности» самообучающихся машин, которая будет обеспечиваться настройкой их по методичкам спецслужб – точнее, по выдержанным в духе этих методичек источникам.

Очень характерны в этом смысле две не связанные прямо, но лежащие в одной идейной канве новости. В середине сентября ученица одной из канадских школ подняла шум по поводу изъятия из библиотеки всех книг, изданных ранее 2008 г. – как заявила администрация заведения, в рамках спущенных сверху новых требований по «инклюзивности». А с 27 сентября всё тот же ChatGPT стал учитывать в своих «размышлениях» информацию свежее сентября 2021 г., доступ к которой ему ранее был закрыт.

Учитывая накал бреда, который стоит в западном медиаполе в последние пару лет, нетрудно догадаться, какое «просветление» ждёт нейросеть. Ну а поскольку она сама, в свою очередь, становится всё более и более популярным ассистентом в поисках того и сего на просторах Интернета, то конечный пользователь неизбежно будет получать свою порцию нативной рекламы «западных ценностей» с ответом на каждый поисковый запрос. Если ещё учесть, что вскоре к этому прибавится возможность общаться с поисковиками посредством цифровых аватаров, обладающих внешностью и голосом человека, итоговый эффект может оказаться совершенно поразительным.

Весьма вероятно, что такой подход к ИИ, низведение его до направляющей обывателя «гипножабы», в конечном итоге поможет Западу не преодолеть, а провалить все глобальные вызовы. Неясно, на что рассчитывают американские элиты, всеми силами превращающие население своей страны и сателлитов в социально-дезориентированную толпу – вероятно, надеются, что всемогущая автоматика уже скоро сможет взять в свои руки все экономические и военные обязанности вечно недовольных людишек-избирателей. Возможно, так оно и будет, но едва ли США и Европа станут первыми в этой сфере – впрочем, оно и к лучшему.