ИИ-агенты: что умеют и где проходит граница автономии

Про агентов говорят много и в основном возбуждённо: программы, которые сами работают вместо людей. Технология настоящая, но между анонсами и рабочим агентом в вашей компании стоит правильная постановка границ. Разберёмся, что агент умеет сегодня без сказок.

Чем агент отличается от ассистента

Ассистент отвечает и советует: спросили про статус заказа, он посмотрел и сказал. Агент действует: увидел новую заявку, сам проверил клиентскую базу, сам создал черновик счёта, сам поставил задачу менеджеру. Разница не в уме, а в руках: агенту выдают инструменты, кнопки в ваших системах, и право их нажимать.

Отсюда и главная развилка внедрения. Ассистента можно выпустить в мир почти без страховки: худшее, что он сделает, это странно ответит. Агент со доступами способен отправить письмо не тому человеку или списать не ту сумму, поэтому его автономию проектируют, а не получают из коробки. Подробное сравнение трёх типов, бота, ассистента и агента, есть в разборе про уровни автономии ИИ-помощников, и эту таблицу стоит держать перед глазами при составлении ТЗ.

Что агент делает хорошо

Сила агента в многошаговых рутинных процессах, где шаги предсказуемы, а решения укладываются в правила. Собрать данные из нескольких систем и свести в один отчёт. Проверить входящую заявку по чек-листу и разложить по колонкам. Мониторить почту или чат и поднимать тревогу по заданным триггерам. Подготовить пакет документов по шаблону из данных клиента. Вести клиента по воронке: напомнить, уточнить, записать на следующий шаг.

Общее у всех примеров одно: процесс уже существует и описан, агент забирает механику, не придумывая политику. Там, где политика меняется от случая к случаю, агент либо работает в режиме черновиков, либо вообще не подходит.

Где граница

Плохие кандидаты на автономию известны по печальному опыту ранних внедрений. Всё, что трогает деньги: платежи, возвраты, скидки. Всё, что уходит наружу без проверки: письма клиентам, публичные публикации, договоры. Всё, где ошибка непоправима: удаление данных, действия с доступами. И всё, где нет правил: агент не должен решать, оскорбить клиента или нет, у него должна быть инструкция.

Рабочая схема зрелых внедрений выглядит так: агент выполняет шаг и показывает результат человеку, человек жмёт подтверждение, агент идёт дальше. На скучных шагах подтверждение убирают, на опасных оставляют навсегда. Это не недоверие к технологии, это страховка от дня, когда модель встретит ситуацию, которой не было в обучении.

Как контролировать

Три опоры контроля. Первая: журнал действий, каждый шаг агента с входом и выходом, чтобы любой инцидент можно было разобрать по записям, а не по памяти. Вторая: права по минимуму, агенту дают ровно те кнопки, которые нужны процессу, и ни одной лишней. Третья: пределы, максимальное число шагов, сумма, время; превысил, и процесс останавливается на человеке. Эти же опоры работают в любом проекте автоматизации, и общий каркас для них описан в материале про автоматизацию бизнес-процессов с чего начать.

Дешёвая страховка, о которой забывают: парный запуск. Первые недели агент работает рядом с человеком, который делает ту же работу по-старому. Расхождения ловятся сразу, а не по жалобам клиентов.

Что это значит для компании

Агент это не сотрудник и не чудо, а новый тип автоматизации: гибкий там, где старые скрипты ломались, и опасный там, где им не поставили рамки. Внедрять стоит с одного процесса, у которого есть чёткая метрика: часы сотрудников, скорость обработки, доля ошибок. Как строится такая последовательность от пилота к работе, разобрано в материале про как строится внедрение ИИ.