Лента новостей

18:07
На воре шапка...
18:06
В Таджикистане задержали ещё девять человек по делу о теракте в «Крокусе»
18:05
Влетевший в многоэтажку в Белгороде украинский дрон убил хозяина квартиры, двое ранены
17:31
На Украине разыскивается воюющий в ВСУ джихадист, причастный к убийству под Запорожьем британского наемника Берка
17:30
Россия не будет принимать участие в «мирных» переговорах по Украине в Швейцарии
17:28
Британский «предатель», воюющий за Россию, говорит что готов к смерти
16:55
Депутаты Госдумы хотят наказывать россиян принудительными работами по 44 статьям УК — в том числе иноагентов
16:54
Forbes констатировал, что британские танки не спасут киевский режим
16:53
Украинский дрон-камикадзе атаковал девятиэтажку в Белгороде. Есть жертвы
16:47
Арктика будет русской
16:18
Сырский, жалуясь на сложности для ВСУ, анонсирует новое наступление
15:37
Шмыгаль: Украина получила транш в 1,5 млрд долларов от Всемирного банка
15:10
Германия не будет вступать в конфликт с Россией, если российские войска разгромят французскую армию на Украине
15:09
США препятствуют поставкам в Россию нитроцеллюлозы из хлопка для производства боеприпасов. Российские учёные ищут решение
15:08
Туск ощущает, что живёт в предвоенную эпоху
15:01
Россия готовится к большому наступлению вдоль протяженной линии фронта
14:58
Кремль: Россия не приемлет навязанных «правил» для переговоров с Украиной
14:32
Военный эксперт Алёхин считает, ВС РФ приступили к создания санитарной зоны на границе РФ
14:31
Генпрокуратора намерена добиться национализации макаранно-хлебной империи бывшего губернатора Челябинской области
14:25
«Они боятся, что все начнётся сначала…»
13:56
Киев согласился рассмотреть предложение республиканцев о финансировании конфликта на Украине в кредит
13:48
Жители Гагаузии встретили Майю Санду протестами
13:47
В Таджикистане задержали девять человек за связь с террористами из «Крокуса»
13:43
Российские специалисты изучают англо-французские ракеты Storm Shadow
13:19
17 многоэтажек, «Белгород Арена» и гимназия пострадали в результате ночной ракетной атаки Белгорода
12:12
С 31 марта Украина будет жить по московскому времени
11:36
ВКС РФ в ходе ночной массированной атаки вывели из строя энергообъекты в центральных и западных регионах Украины
11:35
Боеприпасы и БПЛА. Германия анонсировала новый пакет военной помощи Украине
11:28
Чехия хочет отправить посла в Москву. Если Путин не согласится, Россию может ждать месть
11:17
Теракт в «Крокус Сити»: о давних связях Киева с силами международного терроризма
11:05
Arevoir, зеленые: Евросоюз душит сам себя
10:51
Страны ЕС отказались пропускать молдавский детский хор из Белоруссии
10:39
Российский корабль впервые зашел в порт Эритреи
10:21
F-16 — легкая добыча для российских Миг-31?
10:04
Рособоронэкспорт отчитался о 10 проектах с трансфером технологий
09:46
Детский хор из Молдовы внесли в «черный список» за выступление в Белоруссии. Дети ночь провели в автобусе в Литве
09:45
Лавров допустил, что признавать легитимность Зеленского 21 мая уже не придется
09:34
СВО. Донбасс. Оперативная лента за 29.03.2024
09:26
В Генштабе пообещали не отправлять призывников на СВО
09:09
Телеграм — не место для несанкционированных рассылок и призывов к насилию. Дуров отреагировал на рекомендации Кремля
04:14
Стойкость различных типов брони, по данным Н. Л. Кладо и С. О. Макарова, в свете испытаний 1892–1896
04:04
Почему оклеветали Ивана Грозного
01:07
Теракт в «Крокус Сити» и турецкий след: за и против
00:01
Пашинян «прогревает» Армению, как лягушку в кастрюле…
23:28
Телеграм блокирует вербовщиков-террористов, что вовсе не нравится СБУ и ГУР
Все новости

Архив публикаций



Мировое обозрение»Аналитика»Искусственный интеллект – царь глобальной цензуры?

Искусственный интеллект – царь глобальной цензуры?


Искусственный интеллект – царь глобальной цензуры?

Всемирная диктатура в процессе становления

10 августа на портале Всемирного экономического форума (ВЭФ) была опубликована статья The solution to online abuse? AI plus human intelligence (Решение проблемы онлайн-злоупотреблений? ИИ плюс человеческий интеллект).

Автор статьи вице-президент израильской компании Active Fence «с опытом работы в разведке» Инбал Голдбергер, предлагает объединить сеть искусственного интеллекта с человеческим интеллектом для борьбы с «темным миром онлайн-злоупотреблений» – с «экстремизмом, дезинформацией и разжиганием ненависти».

Искусственный интеллект (ИИ) компьютерных программ, по мнению Голдбергера, зачастую не может понять «словесные формулировки групп ненависти», он не достиг «свободного владения террористическими языками и тонкого понимания кампаний по дезинформации».

«Например, существуют надежные модели ИИ для обнаружения наготы, но лишь немногие могут различить, является ли эта нагота частью картины эпохи Возрождения или порнографического изображения. Точно так же большинство моделей не могут понять, используется ли нож, показанный в видео, для рекламы оборудования мясника или для насильственного нападения. Этой зияющей дырой могут воспользоваться злоумышленники».

У модераторов, удаляющих «нежелательный» контент, не хватает сил и знаний, чтобы занести в черные списки все дезинформационные сайты. «В отличие от ИИ, модераторы-люди и эксперты в предметной области могут выявлять нюансы онлайн-злоупотреблений... Эта точность, однако, ограничена конкретной областью знаний аналитика: модератор-человек, который является экспертом в области превосходства белых в Европе, не обязательно сможет распознать вредоносный контент в Индии или дезинформационные нарративы в Кении».

Голдбергер делает заявку на глобальную цензуру: мол, в Европе модераторы на высоте, а вот до Индии и Кении пока не добрались. Подразумевается, что самим индусам, африканцам, арабам, а также китайцам и русским доверить контроль за информацией в Интернете нельзя.

Чтобы борьба с «оскорбительным контентом» стала в полном смысле глобальной, Голдбергер предлагает объединить усилия ИИ (масштабирование угроз) с разумом специалистов-страноведов.

Мировые сети всколыхнулись: «Всемирный экономический форум Клауса Шваба предлагает автоматизировать цензуру «языка ненависти» и «дезинформации» с помощью ИИ, подпитываемого «экспертами в предметной области». Такой симбиоз человека и машины называют гибридным интеллектом, но Голдбергер избегает этого термина, поскольку сфера гибридного интеллекта является одним из основных направлений НИОКР американских спецслужб по линии Агентства передовых исследований (IARPA) в области так называемой упреждающей разведки (Anticipatory Intelligence).

В 2017 году IARPA запустила разработку «системы гибридного прогнозирования человек-машина (human-machine hybrid forecasting system) таких проблем, как вспышки болезней, колебания фондового рынка, выборы, межгосударственные конфликты». В частности, проект «Синергетическое предвидение геополитических событий» (SAGE) возглавил глава исследовательской группы по машинному интеллекту и базам данных Университета Южной Калифорнии Арам Галстян. Отрабатывалась «обратная связь между человеком и компьютерным интеллектом». В налаживании такой обратной связи и видит перспективы глобальной цензуры Инбал Голдбергер.

Проект SAGE является частью более масштабной программы Hybrid Forecasting Competition (HFC), которую курирует Управление директора национальной разведки (ODNI) США. Программа HFC направлена на сравнение эффективности «различных гибридов человека и машины при предсказаниях реальных событий путем слияния человеческих суждений с информацией из таких источников, как традиционные новостные репортажи, социальные сети и финансовые показатели», – сообщили в ODNI.

Возможностями использования гибридного интеллекта в разведывательных целях в США занялись по той причине, что предыдущие проекты такого рода были провалены. Провалился проект FutureMap. Провалился проект разведывательного прогнозирования с помощью краудсорсинга; его точность оказалась менее 48%, то есть хуже, чем при подбрасывании монеты (орёл-решка).

Не удался и проект упреждающей разведки с помощью гибридного интеллекта. На это направление сейчас перебросили Илона Маска, который оперативно перестроился с обещаний отправить людей на Марс и пустился в рассуждения о том, что люди должны в ближайшее время слиться с искусственным интеллектом.

По утверждению главы Управления цифровых технологий ЦРУ Эндрю Хеллмана, американская упреждающая разведка научилась с высокой точностью прогнозировать вспышки нестабильности, конфликты и террористических атак за 3-5 дней до того, как они произойдут. Однако «предсказательные возможности с горизонтом событий в 3–5 дней могут устроить разве что обывателей, собирающихся на пикник в ближайший уикенд и интересующихся погодой. Для упреждающей разведки социальной нестабильности и конфликтов позарез необходим горизонт прогнозирования хотя бы в пару недель, а по-хорошему в 3–5 недель», – говорит ведущий российский IT-аналитик Сергей Карелов.

На фоне неудач с использованием гибридного интеллекта, похоже, решено не пытаться предсказывать будущее, а спроектировать его, как учил нобелевский лауреат Дэннис Габор. То есть заняться социальной инженерией.

Статья Инбал Голдбергера на сайте ВЭФ вызвала много шума. «ВЭФ планирует использовать технологию искусственного интеллекта для борьбы с “разжиганием ненависти и дезинформацией”, и теперь все, что идет вразрез с их повесткой, будет считаться дезинформацией… Давайте назовем это глобальной диктатурой в процессе становления», – пишет британская журналистка Софи Коркоран.

«Инбал Голдбергер продвигает ИИ как царя цензуры… Похоже, она совсем слилась к командой Байдена», – отмечают в соцсетях.

«Группа, стоящая за “Великой перезагрузкой”, продвигает глобальную цензуру по схеме «ИИ плюс человеческий интеллект». «Всемирный экономический форум (ВЭФ) предложил новый способ цензуры онлайн-контента, который требует, чтобы небольшая группа экспертов обучала искусственный интеллект выявлению «дезинформации» и оскорбительного контента», – гласят заголовки.

Так или иначе, практическими успехами попытки введения глобальной цензуры с помощью искусственного интеллекта не отмечены. Пока что много шума из ничего.


Владимир ПРОХВАТИЛОВ


Опубликовано: Мировое обозрение     Источник

Подпишись:





Напишите ваш комментарий к статье:

Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.

Новости партнеров

Наверх