ИИ вышел на связь: кто ответит за ошибки цифрового продавца

Бот говорит, компания отвечает

Несколько лет назад в Канаде произошел показательный случай. Чат‑бот авиакомпании Air Canada сообщил пассажиру недостоверные условия получения льготного тарифа. Клиент выполнил указания программы, но компания отказалась предоставлять обещанную скидку и попыталась отделить себя от действий виртуального помощника. Трибунал не принял этот аргумент: чат‑бот являлся частью сайта авиакомпании, а значит, она отвечала за размещенную с его помощью информацию.

Представим, что ИИ‑агент видит сомневающегося покупателя и предлагает ему скидку 25 процентов, бесплатную доставку или расширенную гарантию. Если такие условия предусмотрены компанией, проблем нет. Если нейросеть сформулировала их самостоятельно, клиент получает недостоверную информацию от имени продавца.

Российское законодательство обязывает предоставлять потребителю необходимую и достоверную информацию о товаре или услуге. При ненадлежащей информации покупатель в зависимости от обстоятельств может потребовать возврата денег и возмещения убытков. Значение будет иметь содержание переписки, условия оферты, полномочия цифрового помощника и то, как клиент мог разумно воспринять полученное обещание.

Вопрос о том, должен ли бот сразу сообщать, что он является программой, в России пока не урегулирован единым общим требованием для всех коммерческих диалогов. Тем не менее предупреждение об автоматическом характере общения является разумной практикой. Оно не освобождает компанию от ответственности, но снижает риск того, что клиент воспримет программу как сотрудника, имеющего неограниченные полномочия.

Из практики. В ООО «КосмосСтар» при настройке ИИ‑инструментов для продаж мы исходим из простого правила: чем ближе сообщение к цене, гарантии или обязательству компании, тем меньше у нейросети должно быть свободы. В таких вопросах она работает как точный ретранслятор утвержденной информации, а не как автор убедительных формулировок.

Персонализация без вторжения в личные данные

Одна из сильных сторон искусственного интеллекта заключается в способности персонализировать предложение. Алгоритм может учитывать историю обращений, покупки, посещенные страницы, географическое положение, содержание переписки и реакцию клиента на предыдущие акции.

Для маркетолога такая информация является основой эффективных продаж. С точки зрения законодательства о персональных данных она требует четко определенных целей и законных оснований обработки. Нельзя собирать сведения «на всякий случай», а затем использовать их для любых новых сценариев, только потому что они уже находятся в CRM.

Например, компания хочет вернуть покупателей, давно не совершавших заказов. ИИ находит в базе человека и отправляет сообщение: «Сергей, три месяца назад вы интересовались компрессорами. Сейчас на них действует специальная цена».

Такое обращение связано сразу с двумя вопросами. Первый касается законности обработки персональных данных и использования истории взаимодействия для маркетинговой персонализации. Второй касается рекламной рассылки. Реклама по сетям электросвязи допускается при наличии предварительного согласия адресата, причем доказать его получение должен рекламораспространитель. После требования клиента рассылку необходимо прекратить. Статья 18 Федерального закона «О рекламе».

Практическое решение состоит в том, чтобы фиксировать в CRM не абстрактное согласие «на все», а конкретные разрешенные сценарии: получение рекламы, использование истории покупок для персонализации, допустимые каналы связи. Если необходимого основания нет, система не должна составлять индивидуальное предложение на основе прежних действий клиента.

Отдельного внимания требует профилирование. Искусственный интеллект может распределять покупателей по категориям, оценивать вероятность сделки и определять очередность обработки обращений. Но если автоматическое решение затрагивает права и законные интересы человека, вступают в действие ограничения статьи 16 Федерального закона № 152‑ФЗ. В определенных случаях потребуется письменное согласие или другое основание, предусмотренное федеральным законом, а человеку необходимо разъяснить порядок принятия решения и предоставить возможность заявить возражение.

Именно поэтому безопаснее сохранять человека в контуре принятия значимых решений. ИИ может рекомендовать менеджеру отнести обращение к низкоприоритетным, но окончательный вывод не должен строиться только на типе телефона, предполагаемом уровне дохода или других косвенных признаках.

Необходимо осторожно относиться и к обезличиванию. Замена имени клиента номером или преобразование информации в математический вектор еще не всегда означает, что данные перестали быть персональными. Если набор сведений позволяет прямо или косвенно определить человека, требования законодательства могут продолжить действовать.

Безопасный ИИ должен быть управляемым

Главная ошибка бизнеса заключается в ожидании, что нейросеть сможет самостоятельно разобраться в товарах, правилах компании и юридических ограничениях. Языковая модель предназначена для построения правдоподобного ответа, но правдоподобие не означает достоверность.

Допустим, ИИ подготовил коммерческое предложение и указал, что оборудование прослужит десять лет без ремонта. Производитель такого срока не устанавливал, однако письмо было отправлено с корпоративного адреса, а клиент учел обещание при заключении договора. В случае спора компании будет недостаточно заявить, что цифру придумала нейросеть.

Поэтому характеристики товара, цены, сроки, гарантии и условия возврата должны поступать только из проверяемых источников. Если сведений в базе нет, бот обязан передать вопрос сотруднику, а не пытаться заполнить пробел самостоятельно.

Управляемая система строится на нескольких уровнях защиты. Сначала компания определяет, какие действия ИИ разрешено выполнять без согласования. Затем устанавливает стоп‑листы и ограничения. После этого подключает журналирование, чтобы можно было восстановить ход диалога, источник ответа и версию базы знаний, использованную в конкретный момент.

Из практики. В ООО «КосмосСтар» мы выстраиваем работу ИИ‑инструментов так, чтобы значимое предложение можно было проверить. Если цифровой помощник сообщает цену, срок или условие акции, информация должна быть связана с конкретным регламентом, карточкой товара или действующей офертой. Менеджер должен видеть, откуда получен ответ, а компания должна иметь возможность быстро остановить некорректный сценарий.

Следует также установить перечень ситуаций, в которых диалог автоматически передается человеку. К ним относятся жалобы, требования о возврате денег, нестандартные скидки, вопросы о гарантиях, конфликтные обращения и запросы, на которые в корпоративной базе нет однозначного ответа.

Периодически необходимо проверять реальные диалоги, а не только тестовые сценарии. Даже корректно настроенный агент может ошибаться после обновления модели, изменения ассортимента или загрузки нового документа. Ответственность нельзя полностью автоматизировать, поэтому контроль должен сохраняться на протяжении всего срока работы системы.

Безопасный ИИ в отделе продаж не обязательно должен быть самым разговорчивым или похожим на человека. Для бизнеса важнее, чтобы он оставался точным, контролируемым и способным отказаться от ответа, если достоверной информации недостаточно.

Автоматическое общение действительно может стать конкурентным преимуществом. Оно ускоряет обработку заявок, помогает персонализировать предложения и освобождает сотрудников от повторяющихся операций. Но пользу приносит только система, в которой заранее определено, что может сказать алгоритм, какие данные он вправе использовать и в какой момент обязан передать разговор человеку. Все, что цифровой продавец сообщает клиенту от имени компании, потенциально может стать предметом претензии. Поэтому юридические ограничения необходимо закладывать в архитектуру ИИ еще до его первого диалога с покупателем.