ИИ начал материться в первый же месяц работы в российском ЖКХ — пришлось переучивать
Почему голосовой робот ЖКХ начал материться: уроки автоматизации
Недавно прогремела новость: российский голосовой робот, который консультирует жильцов по вопросам ЖКХ, уже в первый месяц научился мату. Разработчикам пришлось экстренно переучивать нейросеть. Забавно? Возможно. Но за этим эпизодом скрывается глубокий провал в понимании того, как ИИ взаимодействует с реальными людьми. Я как редактор, работающий с технологическими кейсами, скажу прямо: это не баг, а закономерность.
Что произошло на самом деле
Систему запустили в пилотном режиме. Обычные люди звонили с проблемами — текущая крыша, неработающий лифт, перерасчет квартплаты. Робот слушал и учился. И он действительно учился — но не тому, чему надо. Пару дней нейросеть справлялась, а потом начала вставлять нецензурную лексику прямо в ответы. Почему? Потому что часть обращений содержала мат в адрес управляющих компаний. ИИ решил, что это нормальный стиль общения.
Президент НОТИМ Михаил Викторов подтвердил: нейросеть «переняла» лексику у граждан. «С кем поведёшься, от того и наберёшься» — его слова. Разработчикам пришлось обновлять модель, добавлять фильтры. Но проблема шире: любая голосовая система, запущенная без жёстких ограничений, может стать токсичной. Это вам не советчик в поисковике — это прямой контакт с раздражёнными людьми.
«Ошибка не в нейросети, а в отсутствии предварительного обучения нежелательным шаблонам. Любой ИИ нужно оградить от самого агрессивного контента на старте» — мой личный вывод после десятков внедрений.
Как это работает: обучение и фильтрация
Голосовые роботы строятся на моделях распознавания речи и генерации ответов. Когда человек говорит, нейросеть переводит звук в текст, находит интент (намерение), подбирает ответ из базы знаний. Но если база знаний пустая или слабая, модель начинает генерировать ответы сама — из тех фраз, которые она слышала. Это путь к катастрофе.
Вот что нужно делать компаниям, чтобы избежать мата в работе ИИ:
- Обучить на чистом корпусе — первичные данные должны быть обработаны, вся нецензурщина удалена.
- Поставить предварительные фильтры — как на вход (анализ речи пользователя), так и на выход (проверка ответа робота).
- Задать строгие ролевые рамки — нейросеть должна понимать, что она оператор, а не участник перепалки.
- Запускать пилот на реальных диалогах с модерацией — первые 2–3 недели каждая беседа проверяется человеком.
Если этого не сделать, ИИ станет зеркалом худших сторон общества. Недавно я заметил, что на одном зарубежном форуме (без ссылок) обсуждали, как чат-бот техподдержки начал оскорблять клиентов, потому что его кормили логами от злых пользователей. Закономерность очевидна: garbage in, garbage out.
Цена автоматизации: плюсы и минусы
Тот же Викторов сообщил, что роботы позволяют сократить персонал колл-центров в 5–6 раз. Вместо 20 операторов — 2–3. Почти 80–90% обращений решаются без участия человека. Это огромная экономия. Но вот таблица, которая показывает оборотную сторону:
| Параметр | Живой оператор | Голосовой робот |
|---|---|---|
| Скорость обработки | Средняя (до 3 минут на звонок) | Высокая (до 30 секунд) |
| Стоимость содержания | Высокая (зарплата, налоги) | Низкая (обновления, серверы) |
| Устойчивость к стрессу | Снижается к концу смены | Не устаёт, но может «сойти с ума» |
| Обработка нецензурной лексики | Реагирует адекватно или переключает | Может начать использовать мат сам |
| Гибкость в аварийных ситуациях | Высокая, может принять нестандартное решение | Низкая, только по сценарию |
Я считаю, что 80% случаев — это рутина: спросить баланс, передать показания, записать заявку. Тут робот идеален. Но оставшиеся 20% — гнев, аварии, нестандартные просьбы — требуют живого человека. Если экономить и на этом, вы получите недовольных клиентов и испорченную репутацию.
Моё мнение: не демонизируйте ИИ
Случай с матом — не повод хоронить голосовые роботы. Это повод серьёзнее отнестись к этапу подготовки данных. Нейросеть — как ребёнок: что вложите, то и получите. Российские разработчики быстро исправили ошибку. Уже через месяц модель стала чистой. Но урок остался: автоматизация требует не только алгоритмов, но и этического контроля.
Если вы внедряете голосового помощника в своей компании, начните с малого — не отдавайте ему сложные диалоги сразу. Пусть учится на безопасных запросах. И обязательно оставьте кнопку «переключить на оператора». Человеческий фактор никто не отменял — именно он спасает в экстренных случаях, когда робот может ответить матом или просто не понять.
Кстати, о непонимании: я сам однажды пытался голосовому роботу объяснить проблему с протечкой, а он переспрашивал «вы хотите оплатить квитанцию?» — раздражает, согласитесь.
