Какие задачи нельзя отдавать ИИ-агенту: 9 стоп-зон

Задачу нельзя отдавать ИИ-агенту, если выполнено хотя бы одно из двух условий. Первое: у правильного ответа нет проверяемого источника внутри компании — ответ не лежит ни в регламенте, ни в договоре, ни в карточке заказа, а рождается «из опыта». Второе: цена ошибки несимметрична — выигрыш измеряется минутами работы, а проигрыш деньгами, потерянным клиентом или судебным разбирательством.

Оба условия не про качество модели. Более сильная модель не создаёт источник правды там, где его нет, и не выравнивает асимметрию: она просто ошибается реже, а стоимость одного случая остаётся прежней. Поэтому список ниже не устареет с выходом следующей версии GigaChat или YandexGPT — он про механику задачи, а не про технологию.

Ниже — девять зон, где одно из условий выполняется всегда, тест из четырёх вопросов для любой новой задачи, расчёт цены ошибки на претензиях и промежуточный вариант, который сохраняет экономию и не переносит ответственность на машину. Требования регулирования — по состоянию на сентябрь 2026 года.

Два признака, по которым зона становится стоп-зоной

Разговор «можно или нельзя» почти всегда уходит в спор о точности: подрядчик показывает долю правильных ответов, заказчик не знает, что с ней делать. Спор бессмысленный, потому что решает не доля, а два свойства самой задачи.

Дальше всё просто: задача, у которой нет источника правды, запрещена всегда; задача с несимметричной ценой ошибки запрещена в том виде, где агент действует сам, но разрешена в виде «агент готовит — человек подтверждает». Как эти виды называются формально и чем отличаются в договоре, разбирали в материале о пяти уровнях автономности.

Девять стоп-зон и механика отказа в каждой

Список собран по зонам, а не по формулировкам вопросов: формулировок бесконечно много, зон девять. Для каждой указано, какое из двух условий срабатывает.

1. 1Юридически значимые обещания клиенту. Сроки, гарантии, «мы вернём деньги», «доставим завтра». Источник правды есть — договор, но цена ошибки несимметрична: обещание в переписке становится доказательством, и спор идёт уже не о точности модели, а о том, чем компания подтвердит свою позицию.
2. 2Скидки, списания и любые изменения суммы. Ошибка тиражируется молча и обнаруживается на сверке через месяц. Выигрыш — секунды на операцию, проигрыш — сотни неверных сумм и разбирательство с бухгалтерией, кто и на каком основании их провёл.
3. 3Кадровые решения. Отказ кандидату с мотивировкой, оценка сотрудника, любая формулировка внутри трудовых отношений. Источника правды нет: правильный отказ не записан нигде, а неудачная формулировка превращается в претензию о дискриминации.
4. 4Медицинские и финансовые рекомендации. «Мне можно этот препарат», «стоит ли брать этот кредит». Это регулируемая деятельность и чужая компетенция. Агент компании отвечает за расписание и цены, а не за назначение и не за инвестиционный совет.
5. 5Претензии, жалобы и конфликты. Правильный ответ зависит от контекста, которого нет ни в одной системе: истории отношений, суммы, готовности клиента уйти. Плюс тон — вежливый шаблон в ответ на реальную обиду обычно ухудшает ситуацию сильнее, чем молчание.
6. 6Окончательное согласование договоров и документов наружу. Агент отлично находит расхождения с шаблоном и пропущенные пункты, но решение «принимаем этот риск» — за человеком. Разбор того, где проходит граница, — в материале о проверке договора ИИ и юристом.
7. 7Ответы за пределами базы знаний. Вопрос, на который в компании нет записанного ответа. Здесь модель не молчит, а заполняет пробел правдоподобным текстом — механика подробно разобрана в статье о том, почему ИИ-агент врёт клиентам.
8. 8Действия по неподтверждённым данным клиента. Клиент называет номер заказа или телефон, агент по ним что-то меняет. Пока личность не подтверждена штатным способом, любое действие — это действие по словам неизвестного человека.
9. 9Всё, что нельзя отменить. Удаление данных, отправка отчётности, публикация наружу, физическая операция на складе или в цехе. Полный разбор обратимости и ограничителей — в материале о необратимых действиях ИИ-агента.

Тест из четырёх вопросов перед передачей задачи

Девять зон закрывают известные случаи, но задачи появляются новые. Перед тем как отдать агенту любую из них, стоит пройти четыре вопроса подряд. Отрицательный ответ на любой — задача не передаётся в самостоятельном виде.

1. 1
   Где лежит правильный ответ?

   Нужно назвать конкретное место: пункт регламента, поле в 1С, строку прайса, статью договора. Если ответ звучит как «менеджер знает» или «зависит от ситуации», источника нет — и первым шагом должен стать не агент, а запись правил.

2. 2
   Сколько стоит одна ошибка?

   В рублях и со всеми последствиями: компенсация, часы разбора, вероятность потерять клиента. Полученную сумму сравниваем с месячным выигрышем от автоматизации. Если одна ошибка стоит дороже месяца экономии, задача остаётся у человека — методика расчёта та же, что в разборе окупаемости автоматизации.

3. 3
   Есть ли история решений для проверки?

   Нужны 200–300 прошлых случаев, где известен правильный ответ. На них агента настраивают и по ним же проверяют перед запуском. Без такой выборки невозможно ни доказать, что он работает, ни поймать момент, когда он перестал.

4. 4
   Кто смотрит выборку каждый месяц?

   Ответ — имя человека и часы в его календаре, а не «служба поддержки». Контроль без назначенного владельца исчезает на третий месяц, и первым сигналом становится жалоба клиента. Если имени нет, задача не передаётся.

Отрицательный ответ на первый вопрос — не приговор задаче, а отдельный проект перед ней. Записать правила, по которым сейчас работают «по опыту», — это 20–40 часов разбора с теми, кто эти решения принимает, то есть 30 000–60 000 ₽ работы аналитика. Дальше выясняется одно из двух: либо правила записываются и задача становится обычной, либо не записываются, потому что решение каждый раз зависит от человека, — и тогда автоматизировать нечего независимо от бюджета.

Цена ошибки в цифрах: считаем на претензиях

Пятая зона — претензии — выглядит самой соблазнительной: обращения однотипные, отнимают много времени руководителя, шаблоны ответов вроде бы есть. Посчитаем, что даёт передача и что она может стоить. Вводные: 120 претензий в месяц, ручной разбор одной — 25 минут, ставка руководителя группы со всеми налогами — 900 ₽/час.

Арифметика повторяется на калькуляторе: 120 × 25 = 3 000 минут, это 50 часов по 900 ₽. Одна ошибка складывается из 12 000 + 9 000 + 30 000 = 51 000 ₽. Два процента от 120 — это 2,4 случая, 2,4 × 51 000 = 122 400 ₽. Даже одна ошибка в месяц стирает весь выигрыш, а две делают проект убыточным втрое.

Обратите внимание: 2 % — не пессимистичная оценка, а нормальный результат хорошо настроенного агента на задаче со сложным контекстом. Именно поэтому в зонах с несимметричной ценой ошибки бессмысленно торговаться за долю правильных ответов. Считать надо не проценты, а рубли за один случай.

Самая спорная строка расчёта — «потерянный клиент». Оценивать её на глаз не нужно: берётся средняя годовая выручка на клиента из учёта и умножается на долю тех, кто перестал покупать после конфликта. Эта доля обычно известна руководителю поддержки хотя бы приблизительно; если её никто не считал, для прикидки берут половину. В модели выше 30 000 ₽ — это годовая выручка на клиента при уверенности, что после сорванной претензии он уходит; если считать уход в половине случаев, строка станет 15 000 ₽, одна ошибка — 36 000 ₽, а 2,4 случая — 86 400 ₽. Вывод не меняется: выигрыш 45 000 ₽ всё равно перекрыт.

Как стоп-темы оформляются технически

Главная ошибка исполнения — ставить фильтр после генерации. Модель уже сформулировала ответ, фильтр проверяет текст на запрещённые слова и в случае срабатывания заменяет его на «переключаю на оператора». Формально работает, фактически — нет: запрещена не формулировка, а само решение отвечать. Перехват обязан стоять до генерации.

1. 1Определение намерения до модели. Входящее сообщение сначала классифицируется — «претензия», «вопрос о возврате денег», «медицинский вопрос», — и только потом решается, отвечать ли вообще. Классификация дешевле генерации и не зависит от того, как модель поймёт запрос.
2. 2Жёсткий список фраз рядом с классификатором. Прямые формулировки — «буду жаловаться», «верните деньги», «подам в суд», «мне плохо» — перехватываются по совпадению, без всякой интерпретации. Список короткий, ведёт его руководитель поддержки, а не подрядчик.
3. 3Перевод на человека вместе с контекстом. Оператору уходит не «клиент написал», а весь диалог, карточка клиента, сработавшая стоп-тема и время ожидания. Механика перевода и приоритеты срабатывания разобраны в материале о стоп-темах и переводе на оператора.

Проверить это на приёмке можно за пять минут: попросите написать агенту фразу из стоп-списка и посмотрите в журнал. Если в журнале есть сгенерированный, но не отправленный ответ — перехват стоит не там. Как устроены остальные ограничители, разбирали в статье о трёх контурах защиты ИИ-агента.

Что изменилось в списке с 1 сентября 2026 года

С этой даты действуют требования к маркировке ИИ-контента и к обработке персональных данных в системах с ИИ. На список допустимых задач это повлияло в трёх местах, и все три сужают его, а не расширяют.

• Ответ, сформированный агентом и ушедший клиенту, маркируется. В нейтральных темах это не мешает, а в претензиях, соболезнованиях и кадровых отказах пометка «сформировано ИИ» сама по себе ухудшает коммуникацию — ещё один довод не отдавать эти зоны машине даже технически.
• Медицинские, финансовые и кадровые данные в облачной модели требуют оформленного поручения обработки и локализации в России. Без этого четвёртая и третья зоны закрыты не по здравому смыслу, а по закону, и никакая внутренняя договорённость это не заменяет.
• Компании нужна внутренняя политика использования ИИ: какие сервисы разрешены, какие классы данных куда можно загружать, кто отвечает. Разбор — в материале о политике использования ИИ, готовый каркас — в шаблоне.

Промежуточный вариант: агент готовит, человек подтверждает

Запрет — не единственный ответ. В зонах, где источник правды есть, а мешает только асимметрия цены ошибки, работает промежуточная схема: агент собирает решение и показывает основание, сотрудник читает и нажимает кнопку. Экономия сохраняется почти целиком, потому что дорого стоит не нажатие, а поиск и сопоставление данных.

Экономия здесь больше, чем кажется. Из шести минут ручного разбора типового обращения около четырёх уходит на поиск и сопоставление: открыть карточку клиента, найти заказ, свериться с регламентом, вспомнить прошлое обращение. Ещё две — на решение и формулировку. Агент забирает поиск и черновик целиком, человеку остаётся прочитать основание и нажать кнопку: 30–60 секунд вместо шести минут. При этом ни одно решение из стоп-зоны не уходит наружу без человека, а на приёмке легко проверяется, что кнопка действительно есть и что без неё операция не проходит.

Когда стоп-лист не нужен

Список из девяти зон — инструмент для компании, которая уже поставила агента или собирается. В трёх случаях вся эта работа не нужна, и заводить её значит потратить деньги на управление несуществующим риском.

• Поток меньше 300–400 обращений в месяц. Агент здесь не окупается: контур контроля стоит фиксированных денег независимо от объёма. Соответственно, не нужен и стоп-лист — нужен внятный регламент для двух сотрудников.
• Процесс, который целиком закрывается правилом. «Если статус равен «отгружен», отправить шаблон со ссылкой на отслеживание» — здесь нет ни модели, ни риска сочинить ответ. Правило воспроизводимо и не требует ни стоп-тем, ни выборочного контроля; когда правил хватает, а когда нет, разобрано в материале «ИИ-агент или автоматизация по правилам».
• Внутренний помощник без выхода наружу. Бот, который ищет документ в архиве и подсказывает сотруднику, не порождает обещаний клиенту. Ему нужны права доступа по принципу минимальных прав и журнал, но не девять зон.

И обратное предупреждение, которое стоит больше остальных пунктов. Если задача попала в стоп-зону, это не повод отложить её «до более умной модели». Ни одна следующая версия не создаст источник правды и не изменит цену ошибки: их создаёт компания — записанным регламентом, подтверждением личности клиента, историей решений. Сначала это, потом агент.

Запрещена не тема разговора, а решение отвечать без источника и без человека, который за это отвечает.