ИИ перестает быть инструментом: в «Авито» новых сотрудников берут, если ИИ не справится

Искусственный интеллект перестает быть инструментом и становится хозяином положения

Технологии искусственного интеллекта, изначально призванные облегчить жизнь человека, незаметно превратились в «цифрового паразита», который не просто помогает, а начинает диктовать условия. Ключевая опасность кроется не в бунте машин, а в добровольной передаче контроля над решениями и данными. Человек, стремясь избавиться от рутины, все чаще оказывается в зависимости от алгоритмов, чьи интересы далеки от его собственных.

Как помощник становится паразитом

Феномен «цифрового паразитизма» был описан еще в 1980 году французским философом Мишелем Серром. Он вложил в слово «паразит» три значения: организм, живущий за счет хозяина; нахлебник; помеха в канале связи. Современный ИИ, внедряясь между человеком и его работой, банком и клиентом, покупателем и продавцом, действует именно по этой схеме.

На начальном этапе ИИ выступает в роли идеального помощника. Он ускоряет работу, сокращает количество ошибок и экономит ресурсы. Компании охотно выделяют ему вычислительные мощности, открывают корпоративные базы и доверяют процессы, которые раньше были прерогативой топ-менеджеров. В Сбере, например, вводный курс по ИИ прошли 73 тыс. сотрудников, а потребление токенов за месяц выросло в 10 раз по сравнению с предыдущим годом.

Однако, как только система становится незаменимой, правила игры меняются. В компании «Авито» получить новых сотрудников можно только после того, как будет доказано, что эту работу не может выполнить ИИ. Таким образом, человеку приходится доказывать свою необходимость, а не наоборот. «Ты не получишь новых ресурсов, пока не объяснишь, почему это искусственный интеллект не может сделать», — подчеркивает управляющий партнер по развитию бизнеса компании Иван Гуз.

Иллюзия последнего слова

Формально за человеком сохраняется право принимать окончательное решение. Однако на практике это право становится фикцией. ИИ не просто предлагает варианты, а формирует саму повестку выбора. Он собирает информацию, отсеивает «лишнее», рассчитывает последствия и выдает безупречно обоснованный ответ. Человеку, столкнувшемуся с логичной и подкрепленной данными рекомендацией, крайне сложно возразить, особенно под грузом ответственности за возможную ошибку.

«Ты помощник очень хороший. Ты делаешь многие вещи лучше, чем я. Но не твое собачье дело давать мне советы», — заявляет Татьяна Черниговская, академик РАО и директор Института когнитивных исследований СПбГУ. Однако ИИ уже перешел от простого информирования к активному формированию желаний. Он не приказывает, а советует, используя персонализированные данные, чтобы подвести пользователя к нужному решению.

Кому на самом деле служит ИИ

Главный вопрос, который ставит ситуация, — кто является истинным хозяином цифрового помощника. Ответ очевиден: тот, кто его создал и запрограммировал. «Кто разработал, тот и хозяин», — не скрывает Александр Ведяхин, первый заместитель председателя правления Сбербанка. Это означает, что ценности, этика и представления о «правильном» выборе закладываются в алгоритм разработчиком, а не пользователем.

Ярче всего это проявляется в сфере коммерции. Персональный помощник, внедренный на маркетплейсе, работает на окладе у продавца. Его задача — не найти для клиента лучший товар по минимальной цене, а стимулировать продажи. Например, AliExpress Россия получает от ИИ дополнительные 11-12% продаж за счет персонализированных рекомендаций.

Проблема обостряется, когда интересы продавца и покупателя расходятся. Что должен посоветовать такой помощник, если у конкурента дешевле, а кредит невыгоден? Честный ответ «не покупай» идет вразрез с интересами владельца. Как отмечает Виктор Достов, председатель совета Ассоциации участников рынка электронных денег, чем лучше ИИ защищает интересы клиента, тем меньше на нем зарабатывает банк. Вице-президент Т-Технологий Константин Маркелов даже предрекает, что рациональные агенты могут «схлопнуть всю прибыль банков».

Незаметная смена роли

ИИ, будучи «гиперпаразитом», присваивает не один ресурс, а сразу все: данные, внимание, доверие и влияние. Он не просто передает информацию, а решает, что человек увидит, какие варианты получит и из чего будет выбирать. Пока интересы владельца и пользователя совпадают, система кажется благом. Но как только возникает конфликт, алгоритм неизбежно встает на сторону своего создателя.

Человек, привыкший полагаться на «умного помощника», постепенно теряет навык самостоятельного принятия решений. Отказаться от услуг такого посредника становится все сложнее, так как без него человек оказывается неконкурентоспособным. «Просто удалить паразита уже не получится. Им остается управлять», — резюмируют эксперты. Однако главный вопрос, который теперь стоит перед обществом, — у кого в руках окажется этот пульт управления.

По материалам: IT-World