Искусственный интеллект в отделе продаж: юридические риски автоматического общения с клиентами
Обычная ситуация — компания подключила ИИ‑бота к CRM. Он отвечает клиентам, предлагает скидки, напоминает о брошенной корзине и помогает менеджерам быстрее закрывать сделки.
Но однажды бот вдруг предлагает клиенту скидку в 90%, отправляет рекламное сообщение без согласия адресата или передает персональные данные во внешний сервис без учета требований законодательства. Для бизнеса каждая из этих ситуаций может повлечь юридические последствия в виде штрафов до 1 млн. р.
В этой статье разберем, где возникают основные юридические риски при использовании ИИ в отделе продаж и что стоит предусмотреть до запуска таких сценариев.
Границы автономности бота
Для клиента сообщение бота выглядит как сообщение самой компании. Он не знает, кто сформировал ответ — сотрудник или алгоритм. Если бот пообещал скидку, назвал срок доставки или предложил индивидуальные условия, клиент будет воспринимать это как позицию компании.
Чем больше самостоятельности получает бот, тем выше юридические риски. Например, если он отвечает по утвержденной базе знаний и передает нестандартные вопросы менеджеру, вероятность ошибки ниже. Если же бот сам выбирает клиента в CRM, начинает переписку, формирует персональное предложение и отправляет его без проверки, круг рисков становится значительно шире.
Еще до запуска стоит определить, какие решения бот может принимать самостоятельно, а в каких случаях диалог должен переходить сотруднику.
- Россияне впервые за восемь лет снизили зарплатные ожидания
- Мировой тренд: ИТ‑специалисты теряют интерес к работе из‑за внедрения ИИ
- Бизнес в России перестает удерживать увольняющихся сотрудников
- Дата‑центр Яндекса в Калуге поврежден из‑за атаки БПЛА
- Яндекс Маркет завершил реферальную программу для селлеров
- Сумма штрафов бизнесу за нарушения при найме мигрантов выросла на 22% за год
Риски начинаются еще до первого сообщения
Для персонального общения боту могут понадобиться имя, телефон, история обращений и другие данные клиента. Если они передаются во внешний ИИ‑сервис или его поставщик получает доступ к CRM, он становится участником обработки персональных данных. Само подключение не является нарушением. Риски возникают, если компания не определила цель и основание обработки, не оформила отношения с поставщиком или передает ему больше данных, чем нужно. При этом ответственность может наступить даже без утечки данных, достаточно неправильно организовать их обработку.
Если ИИ‑сервис получает доступ к данным клиентов по поручению компании, это важно закрепить в договоре: какие данные он получает, зачем они используются и какие меры безопасности должен соблюдать. При использовании зарубежного ИИ‑бота стоит выяснить, где хранятся запросы клиентов и как организована обработка. Эти детали влияют на соблюдение требований о локализации и трансграничной передаче персональных данных.
Лучше придерживаться простого принципа: бот должен получать только ту информацию, которая нужна для выполнения конкретной задачи. Например, чтобы сообщить статус заказа, ему не требуется полная история покупок.
Когда сервисное сообщение становится рекламой
Бот пишет клиенту: «Ваш заказ передан в доставку». Это сервисное сообщение — оно связано с уже существующим заказом. Ситуация меняется, если следом бот предлагает оформить подписку, воспользоваться дополнительной услугой или купить другой товар. Такое сообщение уже может быть признано рекламой.
Для подобной коммуникации нужно предварительное согласие клиента. При этом даже его недостаточно, чтобы полностью передать рассылку боту. Автоматическое распространение рекламы без участия человека запрещено. Бот может проверить наличие согласия, подобрать предложение и подготовить текст, но отправку рекламного сообщения оставьте сотруднику.
Еще до запуска рекомендуем разделить сценарии общения на входящие, сервисные и рекламные. Бот может самостоятельно отвечать на вопрос, который задал клиент, или сообщать информацию по действующему заказу. А новое предложение от компании должно проходить отдельную проверку: является ли оно рекламой, есть ли согласие адресата и участвует ли сотрудник в его отправке.
Ошибка ИИ может изменить условия сделки
Бот может предложить несуществующую скидку, пообещать бесплатную доставку или неправильно объяснить условия возврата товара. Для клиента это выглядит как официальная информация от компании.
При продаже товаров и услуг потребителю бизнес обязан предоставлять достоверную информацию. Если клиент принял решение о покупке, полагаясь на неверный ответ бота, он может потребовать расторжения договора и возмещения убытков. В некоторых случаях сообщение бота даже может быть признано офертой. Например, если бот сообщил все существенные условия сделки и клиент выразил согласие. Тогда предметом спора станет уже не ошибка ИИ, а обязательства, которые возникли у компании.
Поэтому цены, скидки, сроки, гарантии и другие значимые условия нельзя оставлять в зоне свободной генерации. Бот должен получать их из закрытой и регулярно обновляемой базы. Нестандартные предложения, просьбы изменить условия и конфликтные обращения — всё это также оставляем живому сотруднику.
Важный лайфхак: сохраняйте историю диалога и сведения о том, какая версия базы использовалась в момент ответа. Если возникнет спор, это поможет восстановить, какую информацию получил клиент и на основании чего бот сформировал свой ответ.
'%20fill='none'/%3e%3cpath%20fill='%23ffdd2d'%20d='%20M%20104.72%200.00%20L%20112.15%200.00%20Q%20106.48%207.74%20100.12%2014.37%20C%2091.89%2022.97%2081.81%2029.47%2071.49%2035.26%20Q%2061.95%2040.62%2051.54%2043.77%20C%2044.52%2045.90%2036.57%2046.85%2028.99%2047.67%20Q%2027.29%2047.86%2025.66%2047.43%20Q%2025.42%2047.37%2025.35%2047.61%20L%2025.26%2047.91%20A%200.45%200.44%2017.2%200%200%2025.56%2048.47%20C%2028.12%2049.22%2035.16%2050.72%2036.90%2052.43%20Q%2038.92%2054.39%2036.21%2054.48%20Q%2033.33%2054.58%2029.50%2053.79%20Q%2019.39%2051.71%209.25%2049.83%20C%207.27%2049.47%205.11%2048.66%203.49%2047.83%20Q%200.61%2046.36%203.73%2045.50%20Q%204.67%2045.25%206.46%2044.38%20Q%2010.76%2042.31%2026.76%2034.35%20C%2030.51%2032.48%2037.88%2029.46%2041.00%2033.59%20A%200.92%200.91%20-35.3%200%201%2040.77%2034.91%20L%2029.13%2042.42%20Q%2027.57%2043.42%2029.42%2043.22%20C%2053.59%2040.61%2073.35%2028.09%2091.94%2013.14%20Q%2099.20%207.31%20104.72%200.00%20Z'%20/%3e%3c/svg%3e)
Какие штрафы
Штрафы для бизнеса будут разными, в зависимости от того, коснется это персональных данных или законодательства по рекламе. Для удобства прикладываем таблицу.
Что проверить до запуска ИИ в отделе
Перед внедрением полезно пройтись по каждому сценарию общения бота и ответить на несколько вопросов:
- какие персональные данные использует бот и действительно ли они нужны для этой задачи;
- может ли сообщение считаться рекламой;
- может ли ответ повлиять на условия сделки;
- в каких ситуациях диалог должен перейти сотруднику.
После этого стоит проверить поставщика ИИ‑сервиса, оформить обработку персональных данных, настроить учет рекламных согласий и утвердить источники, из которых бот получает цены, скидки, сроки и другие значимые условия.
Запуск безопаснее начинать с пилота на ограниченном числе обращений. Это позволит проверить реальные диалоги, оценить ошибки модели, посмотреть, как менеджеры их исправляют, и понять, какие данные сохраняет поставщик. Повторную проверку стоит проводить после изменения модели, базы знаний или сценариев общения.
Главный риск ИИ связан с масштабом ошибок: неверно настроенный бот может за короткое время отправить тысячи незаконных сообщений. Поэтому компания должна сохранять контроль над данными, ответами и решениями в диалоге с клиентом.
