Кто в компании имеет право нажать «отправить»: новая матрица полномочий в эпоху AI

AI‑агенты все чаще входят в привычные процессы бизнеса. Они обрабатывают заявки, сегментируют базу, готовят письма, анализируют звонки и обновляют CRM, экономя массу времени специалистам. Однако вместе с удобством автоматизации приходят вопросы: когда автономная работа агента несет риск для компании и кто несет ответственность, если что‑то пошло не так.

В этой статье я расскажу, как определить уровни автономности AI‑агентов, распределить полномочия между сотрудниками и встроить контроль в рабочие процессы.

Что AI может делать без человека, а что — нет

• анализ данных и подготовка отчетов;
• черновики писем и коммерческих предложений;
• сегментация базы и скоринг лидов;
• внутренние уведомления при отклонениях в метриках;
• персонализация контента на сайте и в рассылках.

Здесь агент в основном ускоряет работу. Если он ошибся в черновике или неправильно сгруппировал лидов, результат можно проверить и исправить до того, как он повлияет на клиента или бизнес.

Ситуация меняется, когда AI получает право выполнить действие с серьезными последствиями. Например, отправленная оферта или обещанные сроки могут создать для компании обязательства, которых она не планировала. Неверный ответ клиенту или утечка данных бьют по репутации и доверию. Массовое редактирование записей в CRM ломает отчетность и аналитику. А пост или пресс‑релиз от имени компании напрямую влияет на восприятие бренда.

Три уровня автономности

Из этого следует простое правило: чем выше цена ошибки, тем больше контроля нужно встроить в процесс.

Для удобства действия AI можно разделить на три уровня автономности.

Первый уровень — автономно. Агент сам выполняет операции: анализирует данные, готовит черновики, сегментирует базу, отправляет внутренние уведомления. Человек не подтверждает каждое действие, а контролирует результат по выборке и ключевым показателям.

Третий уровень — только человеком. AI может подготовить информацию или проект решения, но само действие выполняет уполномоченный сотрудник. Сюда относятся операции, где ошибка может привести к серьезным финансовым, юридическим или репутационным последствиям: финансовые операции, подписание документов, удаление данных, публичные заявления.

Важно понимать, что это не постоянные категории. Один и тот же агент может работать на разных уровнях в зависимости от конкретного действия. Подготовить договор он может самостоятельно, а подписать его — нет. Изменить контактные данные в CRM — самостоятельно, удалить тысячу записей — только после подтверждения.

Как оценить риски

Чтобы определить, к какому уровню автономности отнести конкретное действие, достаточно посмотреть на несколько параметров.

Необратимость. Можно ли отменить действие без потерь? Черновик письма изменить легко, отправленное коммерческое предложение уже сложнее, а подписанный договор — почти невозможно.

Масштаб. Сколько людей и процессов затронет ошибка? Неверное письмо одному клиенту и ошибочное изменение десяти тысяч записей в CRM — разные уровни риска.

Видимость. Останется ли ошибка внутри компании или ее увидят клиенты, партнеры и рынок? Обновление внутренней записи в CRM и публикация поста от имени компании требуют разного уровня контроля.

Последствия для бизнеса. Может ли действие привести к финансовым потерям, потере клиента, обязательствам или серьезной нагрузке на команду? Здесь даже одно действие может быть критичным, если его цена достаточно высока.

Регуляторика. Попадает ли действие под требования по персональным данным, финансовой отчетности, договорам или другим нормам? Если да, уровень контроля может быть выше даже при небольшом масштабе операции.

На основе этих критериев можно определить необходимый уровень контроля: низкий риск — автономно, средний — мониторинг, высокий — предварительное согласование, критический — только через человека.

Кто за что отвечает

Определить уровень риска недостаточно. Следующий вопрос — кто именно получает право на действие, если AI не может выполнить его самостоятельно. Поэтому важно заранее определить, кто отвечает за бизнес‑результат, кто — за техническую часть, кто может подтвердить рискованное действие и кто принимает решение, если что‑то пошло не так.

Владелец процесса — руководитель подразделения, которое использует агента. Он отвечает за бизнес‑результат и правила работы агента: что ему разрешено делать, где проходят лимиты и какие действия требуют согласования. Именно владелец процесса должен иметь право изменить эти правила или остановить использование агента.

Технический владелец — сотрудник IT или интеграции. Он отвечает за доступы, интеграции, безопасность, мониторинг, логи и техническую исправность. Если агент начал работать некорректно или создает технический риск, у этой роли должно быть право его остановить. Но технический владелец не должен самостоятельно принимать бизнес‑решения за подразделение.

Аппрувер — сотрудник, который имеет право подтвердить конкретное действие. Например, агент может самостоятельно оформить скидку до 5%, но более крупную должен подтвердить коммерческий директор. Важно заранее определить, кто имеет такое право: агент не должен сам выбирать, кому передать решение.

Пользователь — сотрудник, который работает с агентом каждый день. Он проверяет входные данные и результаты и подтверждает действия только в пределах своих полномочий. При этом человек, который нажал «Approve», не обязательно становится единственным ответственным за последствия: ответственность должна быть закреплена за ролью и процессом.

Risk, Legal или Compliance подключаются там, где есть регуляторные или юридические ограничения: персональные данные, финансовые операции, договоры, публичные заявления. Их задача — не согласовывать каждое действие AI, а заранее определить, что запрещено, что ограничено и где нужен дополнительный контроль.

Как внедрить без бюрократии

Начать лучше с одного процесса и одного агента. Выбрать сценарий с понятной метрикой и ограниченным риском: например, обработку входящих заявок, подготовку коммерческих предложений или обновление CRM.

Для него достаточно определить три вещи: что агент может делать самостоятельно, где требуется подтверждение человека и какие действия ему запрещены.

Дальше эти границы нужно перевести в конкретные правила и технические ограничения. Например, письма до 100 получателей агент отправляет сам, выше — только после подтверждения. Скидку до 5% оформляет автоматически, выше — передает коммерческому директору. В CRM может менять отдельные поля, но не удалять записи и не менять финансовые параметры сделки.

Отдельно стоит определить, что происходит при отклонении от нормы. Если агент столкнулся с неизвестным типом запроса, превысил лимит или получил противоречивые данные, он не должен пытаться «догадаться». В таких случаях действие передается человеку или останавливается до выяснения обстоятельств.

При этом контролировать нужно не только результат, но и поведение самого агента: сколько действий он выполняет, сколько из них отменяются людьми, как часто срабатывают лимиты и сколько ошибок приходится исправлять вручную. Если агент регулярно выходит за установленные границы, проблема может быть в неправильно заданном сценарии.

Не все действия требуют одинакового контроля. Для низкорисковых операций достаточно мониторинга и выборочной проверки. Для действий с высокой ценой ошибки нужен предварительное соглашение. Для критичных операций — возможность полностью заблокировать автономное выполнение.

Документировать все подряд тоже не нужно. Для начала достаточно короткого паспорта агента: его задача, владелец, технический владелец, разрешенные действия, лимиты, запрещенные операции, аппруверы, порядок эскалации и способ остановки. Остальные детали можно хранить непосредственно в рабочих системах и логах.

После запуска правила стоит регулярно пересматривать. Например, раз в квартал проверять, какие действия агент выполняет без ошибок и уже можно передать ему полностью, где слишком часто требуется ручное вмешательство, а где появились новые риски.

Так уровень автономности постепенно меняется вместе с реальным поведением системы, а не остается навсегда зафиксированным в первом регламенте.

Получается простой цикл: задали границы → запустили → посмотрели на реальные ошибки → скорректировали границы → увеличили или уменьшили автономность.

AI не снимает с компании ответственность — он делает ее более заметной. Когда агент действует сам, важно понимать, что именно он делает, какое полномочие ему дали, кто это полномочие определил и что происходит при ошибке.