Почему «автоматизировать всё» — плохая цель

В службе поддержки малого бизнеса легко найти повторяющиеся вопросы: где заказ, как получить копию счёта, когда работает пункт выдачи. Здесь ассистент может быстро ответить по проверенному источнику. Но рядом лежат претензия о неверном платеже, спор об условиях договора и просьба раскрыть чужие данные. Если робот с энтузиазмом берёт всё подряд, красивый процент автоматизации перестаёт быть показателем экономии.

Нужен другой вопрос: при какой доле обращений, оставленных ассистенту, сумма затрат и ошибок минимальна при приемлемом качестве? Передача сложного случая человеку — не провал системы, а предусмотренный исход. В исследованиях это называют выборочным предсказанием: модель обслуживает часть потока и воздерживается там, где риск выше. Исследование AAAI о такой передаче отдельно показывает, что качество команды «человек + ИИ» следует оценивать вместе, а способ сообщения о передаче влияет на решение человека. Его результаты получены не в российском контакт-центре; для бизнеса это принцип проверки, а не готовая цифра эффективности.

Модельный расчёт: две границы автоматизации

Возьмём **условный** месяц и явно запишем допущения. Приходит 1 000 обращений. Полностью ручная обработка одного стоит 180 ₽, поэтому базовый сценарий — 180 000 ₽. Ассистент обрабатывает входящий запрос и готовит черновик за 12 ₽ независимо от того, уйдёт ли ответ клиенту автоматически. Эксплуатация существующего контура, обновление базы ответов и наблюдение за качеством добавляют 18 000 ₽ в месяц. Ручная обработка переданного случая по-прежнему стоит 180 ₽. Дополнительная выборочная проверка автоматических ответов стоит 90 ₽ за ответ и охватывает 10% этой группы. Исправление одной ошибочной автоматической отправки обходится в среднем в 500 ₽. Это числа для примера, а не рыночные тарифы или результаты действующей компании.

При осторожной границе ассистент отправляет 60% ответов, 40% передаёт людям, а доля ошибок среди автоматических ответов в модельном сценарии — 3%. Счёт: 12 000 ₽ за обработку ИИ + 18 000 ₽ постоянных расходов + 72 000 ₽ за 400 ручных случаев + 5 400 ₽ за 60 проверок + 9 000 ₽ за 18 исправлений = **116 400 ₽**. Разница с полностью ручным процессом — **63 600 ₽** до налогов и капитальных затрат.

Если ослабить границу до 80% автоматических отправок, ручных случаев станет 200. Допустим, в этой более сложной группе ошибок уже 12%: 12 000 + 18 000 + 36 000 + 7 200 за 80 проверок + 48 000 за 96 исправлений = **121 200 ₽**. Это тоже ниже ручного сценария, но на 4 800 ₽ дороже осторожного. Робот забрал больше карточек из очереди, а бухгалтерия почему-то не аплодирует: экономия не обязана расти вместе с долей автоответов. Оба процента ошибок здесь специально заданы как допущения; сначала их придётся измерить на своих обращениях.

Формула, которую стоит держать рядом с дашбордом

Для любого проверяемого порога месячная стоимость в этом упрощённом примере равна: стоимость обработки ИИ всех входящих + постоянные расходы + число переданных обращений × цена ручной обработки + число проверок × цена проверки + число ошибочных автоматических отправок × цена исправления. Качество нельзя прятать внутри одного усреднённого процента: неверный график работы и незаконное раскрытие данных имеют разный ущерб. Последнее вообще не стоит переводить только в 500 ₽.

Поэтому рядом с рублями нужны ограничения: доля критических ошибок по категориям, время ответа, повторные обращения, удовлетворённость клиентов и максимальная нагрузка на операторов в час пик. Если порог снижает среднюю стоимость, но перегружает вечернюю смену или отправляет больше неверных решений по возвратам, такой порог не прошёл проверку.

Как организовать передачу человеку

Начните не с «уверенности 80%», которую модель сама написала о себе. Опубликованное в ICML 2026 исследование показало, что калибровка вербализованной уверенности LLM зависит от типа задачи и не переносится универсально между ними. Это не означает, что любой числовой сигнал бесполезен; означает, что порог надо калибровать отдельно на своих категориях и не принимать самооценку модели за доказательство правильности.

В действующей CRM или helpdesk можно начать с трёх исходов: автоматический ответ по безопасному сценарию, черновик на утверждение и полная передача человеку. Маршрутизатору нужны категория обращения, разрешённые источники, статус заказа, права доступа и перечень тем, где автоотправка запрещена. Для возвратов денег, договорных обязательств, персональных данных и конфликтных обращений безопаснее сначала оставить обязательное согласование. Человеку передаются исходный запрос, найденные документы, предложенный ответ и конкретная причина эскалации — без необходимости заново разбирать историю. Фраза «передаю специалисту» без самого контекста превращает помощника в очень вежливого пересыльного.

Интеграция не требует нового сервиса, если существующая система заявок умеет назначать очередь и хранить статус. Но понадобится техническая работа: версии базы знаний, разрешения на чтение, журнал решений, тесты для крайних случаев и возврат к ручному режиму. NIST AI Risk Management Framework рекомендует определять роли человеческого надзора, оценивать систему в условиях, близких к применению, и следить за поведением после запуска. Это общая рамка, а не сертификат качества конкретного бота.

Пилот на реальных обращениях без дорогого запуска

Возьмите, например, 200 обезличенных обращений за прошлый месяц, разметьте правильный исход и стоимость ошибки по каждой категории. На отложенной части выборки прогоните несколько правил передачи и посчитайте не только долю автоответов, но и ошибки **среди отправленных**. Отдельно проверьте категории с высоким ущербом: их нельзя «компенсировать» массой простых вопросов. Затем включите режим черновиков для малой смены, измерьте фактическое время оператора и только после этого разрешайте автоотправку узкому классу безопасных вопросов.

Результат пилота — таблица «порог → доля автоматизации → ошибки → рубли → пиковая очередь», а не единственное число «бот закрыл 80%». Если реальные расходы на контроль, исправление и поддержку съедают экономию, уменьшите охват или остановитесь на режиме помощника оператора. Иногда лучший ИИ для бизнеса — тот, который вовремя и внятно говорит: «это решит человек».