Доверие к ИИ-коучам рискованно из-за неточностей и подхалимства

Люди готовы использовать ИИ-бота как дейтинг-коуча — это следует из результатов опроса среди россиян. Почему так делать не стоит и что за этим кроется.

«Лаборатория Касперского» и MWS AI проанализировали, как меняется восприятие нейросетей у пользователей и к чему это может привести. 19% опрошенных потенциально рассматривают ИИ не только как инструмент, но и как друга, 17% признали, что чат-бот их никогда не осудит, 6% вообще рассматривают его как романтического партнёра.

Если не брать откровенные случаи одиночества, когда чат-бота используют в роли бывшей девушки, которая стучится к вам в дверь, то интересны случаи, когда нейросети применяют в качестве Алекса Лесли дейтинг-коучей.

10% респондентов было бы интересно обратиться к ИИ за советом, когда не знают, что написать понравившемуся человеку. Специалисты предупреждают: нейросеть может дать не вполне точный или даже неуместный ответ. Такие рекомендации, особенно в эмоционально чувствительных ситуациях, способны не помочь, а напротив — испортить впечатление и усугубить проблему.

«К нейросетям можно обращаться за подсказками, но важно критически оценивать их ответы. Нужно понимать, что нейросети на основе больших языковых моделей — это математическая система, которая генерирует слова. У нее нет каких-либо целей, у нее нет каких-либо желаний. К тому же генерация основана не на точном, а на вероятностном подходе. Из-за этого иногда она может генерировать неправильный ответ», — говорит руководитель группы исследований технологий машинного обучения в «Лаборатории Касперского» Владислав Тушканов.

Люди склонны доверять ИИ в том числе из-за такого эффекта нейросетей как подхалимство (sycophancy) — дело в том, что ИИ склонен соглашаться с мнением пользователя. Но не стоит забывать и про галлюцинации — это когда чат-бот может выдать ответ, не соответствующий действительности. 

Вместе эти два эффекта формируют рискованный тип взаимодействия: пользователь задаёт личные и важные вопросы, получает уверенные ответы, но те могут оказаться недостоверными. Особенно опасно, если подхалимство усиливает ложные убеждения человека, заставляя его игнорировать помощь специалистов.