Лента новостей

01:31
Канал «Стамбул» не позволяет Турции юридически обойти конвенцию Монтрё
01:30
США в менторском тоне поучают Грузию
01:25
Британию испугали «зловещие действия» российских подлодок в Атлантике
01:24
«Ситуация описана неверно»: Госдеп уточнил заявление посла Антонова о высылке российских дипломатов
01:23
Билл Гейтс и его жена официально развелись
01:20
Обзор планшета Huawei MatePad Pro 12.6 (2021): жизнь есть и после Google
01:15
Единовременные школьные выплаты получили родители 17,4 млн детей
01:14
США введут пошлины на импорт углеродистой стали из России, Украины и Южной Кореи
01:13
Почти 6 млн россиян в первом полугодии попали в список невыездных из-за долгов
01:10
В Чечне назначили министра по физической культуре, спорту и молодежной политике
01:09
Сводный оркестр ВДВ выступит на фестивале Спасская башня
01:07
Судно тылового обеспечения Всеволод Бобров планируют передать ВМФ в августе
01:06
Источник: АПЛ Новосибирск проекта Ясень-М вернулась из первого выхода в море
00:47
Почему китайские коммунисты расстреляли бы украинских «Слуг народа»
00:34
Обмудсмен Попова: господдержка быстрорастущих компаний поможет создать в России десять Яндексов
00:33
Глава Счетной палаты Кудрин считает, что повышать налоги в России пока не стоит
00:32
Глава Счетной палаты Кудрин предложил дать регионам больше финансовой самостоятельности
00:31
Глава Счетной палаты Кудрин предложил целевые субсидии малоимущим вместо регулирования цен в России
00:29
Командующий Вторым флотом США Льюис назвал сотрудничество с Россией адекватным
00:28
США введут антидемпинговые пошлины на импорт стальных труб стальных труб из России и Украины
00:27
Минфин США достиг установленного конгрессом потолка госдолга
00:26
Очередное совместное российско-турецкое патрулирование прошло в провинции Алеппо в Сирии
00:16
Минск бежит впереди санкций
23:37
Восемь стран выступили с протестом против строительства «Северного потока-2»
23:36
Минздрав РФ уточнил, что в ДТП в Турции погибли трое россиян
23:35
В литовском лагере взбунтовались нелегальные мигранты
23:32
По стопам Apple: магнитный коннектор MagDart на смартфонах Realme будет использоваться не только для зарядки, но и для аксессуаров
23:27
Законодатели США и стран Европы опубликовали заявление против Северного потока - 2
23:26
Кабмин утвердил положение о ведении реестра социально ориентированных НКО
23:25
Google осенью представит смартфоны Pixel 6 и Pixel 6 Pro с собственным процессором
23:20
Надо ли космическим туристам заниматься спортом в полете
23:11
«Чаус-2»: СБУ заявила о нейтрализации силовой ячейки «Патриотов — За Жизнь» Ильи Кивы
22:52
Каких бойцов поднимать в атаку
22:48
Чистый убыток Аэрофлота по РСБУ в I полугодии сократился на 38%, до 26,3 миллиарда рублей
22:46
Основатель Microsoft Билл Гейтс и его жена Мелинда развелись
22:45
Появилось видео с места ДТП в Турции, в котором погибли трое российских туристов
22:44
Боевики обстреляли позиции сирийской армии в провинции Алеппо, ранили военного
22:43
Основатель Microsoft официально развелся с супругой
22:36
Запоздавший «украинский гамбит»
22:32
Le Figaro: «пропадают и не возвращаются» — морская полиция не справляется с угоном яхт и лодок из французских портов
22:31
Hill: республиканцы полагают, что причиной пандемии стала утечка из китайской лаборатории
22:30
The Times: пользователям соцсетей не понравились меры австралийской полиции, разгонявшей нарушителей карантина
22:27
Европа заподозрила Россию в газовых играх из-за "Северного потока - 2"
22:26
Экономисты поспорили об «изжившей модели экономики» Кудрина
22:24
Мишустин подготовил "убийство двух зайцев": на музейную программу выделено 4 млрд
Все новости

Архив публикаций



Мировое обозрение»Технологии»Необязательный интеллект: почему ИИ до сих пор глупый и как где его вообще можно использовать

Необязательный интеллект: почему ИИ до сих пор глупый и как где его вообще можно использовать


Пару лет назад мне предложили прочитать лекцию о машинном обучении, и я назвал её «Конец искусственного интеллекта». Организаторы удивились: как же так, ведь все вокруг только и говорят об огромных перспективах ИИ... Увы, отвечал я, перспективы почти закончились, теперь нам предстоит совсем другая эпоха – эпоха КИИ (Косяков Искусственного Интеллекта).

Необязательный интеллект: почему ИИ до сих пор глупый и как где его вообще можно использовать

В этом году демонстрировать наступление КИИ стало проще: многие мои знакомые столкнулись с ботом «Сбербанка». Людей шокирует, что бот даёт им абсолютно бессмысленные ответы, но при этом не хочет переключать на оператора-человека. «Ну, разве это проблема, – говорю я друзьям. – Вон, бот Тинькоффа вообще предлагал людям пальцы отрезать...».

facebook

Нажми и смотри

Нажми и смотри

Перегретые ожидания в этой сфере порождены голливудскими фантастами и пафосной рекламой IT-корпораций, которая построена на той же фантастике, но при этом скрывает от публики целый спектр реальных проблем машинного обучения. Вот первая из них: никаких особых прорывов в области алгоритмов ИИ в этом веке не произошло, практически все используемые алгоритмы – из 80-х годов прошлого века. А нынешний бум вокруг машинного обучения связан с тем, что появление Интернета дало возможность получать и обрабатывать огромные массивы данных.

Но, как известно, количество не всегда переходит в качество. Бот Тинькоффа, предлагавший «отрезать пальцы», обучался на открытых данных из Интернета. Однако Интернет стремительно замусоривается. Да, можно нанять целую армию специальных людей, которые будут постоянно обучать систему, как это делают разработчики говорящих ассистентов Amazon, Apple и Microsoft. Но тогда вдруг оказывается, что ваш ИИ-ассистент не автономен, что он отправляет записи ваших разговоров кому-то на прослушку. В ответ ужесточаются законы о персональных данных – и вот уже перекрыли боту кислород.

Идём дальше. Выход ИИ из чистых лабораторий в реальный мир увеличивает число ошибок в разы. А сколько раз ему вообще можно ошибаться? Пресс-служба аэропорта Домодедово однажды сообщила о своей системе распознавания лиц: «точность идентификации по результатам испытания составила более 90%». В переводе на русский язык это 91%. Это значит, что примерно каждый десятый будет опознан неверно: мирного гражданина могут принять за преступника. Годовой пассажиропоток в Домодедово – более 20 миллионов человек. Из них два миллиона надо задержать, да?

И это, кстати, ещё небольшая ошибка – скорее всего, «испытания» в Домодедове были «лабораторные». А вот на практике, например в Лондоне, полицейская система распознавания лиц ошибается то ли в 81% случаев, то ли даже в 98%. Высокие проценты ложных срабатываний в «боевых» условиях – одна из главных причин, почему пафосные новости о внедрении систем распознавания лиц через какое-то время сменяются новостями о том, как их отменяют или запрещают (как произошло во многих американских городах в последние два года).

А может, надо просто использовать компьютеры помощней? Увы, есть проблемы, которые таким способом не решаются. Представьте, что банковская система кредитного скоринга обучается на выборке, согласно которой мужчины вдвое чаще оказываются неспособны выплатить кредит, чем женщины. Тут нет ошибки машинного обучения, это реальный статистический факт. Но это значит, что при прочих равных параметрах система может дать кредит женщине, а мужчине откажет. И это ещё довольно лёгкий косяк: здесь мы хотя бы знаем сомнительный параметр. Но в современных системах машинного обучения счёт параметров идёт на миллионы. Ошибку сложно заметить, а ещё сложней – интерпретировать.

Перечислять все виды атак не буду, два года назад эксперты «Лаборатории Касперского» выпустили отдельную статью на эту тему, с показательными примерами успешных взломов. Остановимся лишь на рекомендациях этой статьи: работают ли они сейчас? Например, предлагается сократить зависимость ИИ-решений от чужих данных и сторонних разработок. Но история с «отрезанными пальцами Тинькоффа» показывает, что воз и ныне там.

Или вот ещё полезный совет: «Аудиты безопасности и пентесты систем машинного обучения (ML red-teaming) должны стать необходимой практикой при разработке ML-систем». Но опять же, много ли вы знаете компаний, которые предлагают такую услугу: проверка систем ИИ на прочность? Я таких услуг в России не видел. А значит, косяков будет ещё больше.

Впрочем, есть другой выход. Всё сказанное выше предполагает, что вас очень волнуют косяки. Но в жизни человека есть сферы, где точность не важна. Скажем, вы идёте на выставку современного искусства, где люди пялятся на стены с разноцветными пятнами. Можно ли заменить все красные пятна на зелёные? Конечно, можно! Никто не пострадает. А в кино, в книге или в компьютерной игре можно нарисовать осьминога с 11 щупальцами вместо 8 – и ничего! Значит, этим вполне могут заниматься боты.

AlphaGo

AlphaGo Noah Sheldon, Wired

Кстати, главный современный пример интеллектуальности машин – из той же развлекательной оперы: компания Google потратила миллиард долларов на разработку игрового автомата Alpha Go. Абстрактная настольная игра не имеет никакого практического применения и никак не влияет на нашу реальную жизнь. Ну да, в такое можно и с роботом играть.

Таким образом, с помощью искусственного интеллекта многие люди могут обнаружить, что значительная часть их жизни проходит в необязательных развлечениях. И если вас раздражает тупой бот какой-то компании, вы уже знаете правильный ответ: это развлекательная компания. А когда вам понадобятся нормальные услуги, вы пойдёте к реальному бизнесу, вот и всё.

Алексей Андреев, эксперт «Лаборатории Касперского»

Лаборатория Касперского


Опубликовано: Мировое обозрение     Источник

Подпишись:





Напишите ваш комментарий к статье:

Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.

Новости партнеров

Наверх