Почему бизнесу нельзя полностью доверять решения ИИ

Этот опыт научил меня не полагаться на ответы нейросетей безоговорочно. Не потому, что технологии плохи, а потому, что ИИ может звучать убедительно, даже когда ошибается.

В этой колонке расскажу, почему не стоит поручать нейросетям стратегические решения и как сохранять здоровую дистанцию при работе с ними.

Люди всё чаще доверяют ИИ больше, чем специалистам

Действительно ли люди перекладывают на нейросети многие задачи? Статистика говорит, что это именно так. По данным исследования НАФИ, 73% российских руководителей доверяют системам ИИ, а 51% готовы поручать ИИ‑агентам выполнение задач без постоянного контроля.

Похожую тенденцию показывает исследование Wakefield Research, проведённое по заказу SAP среди 300 топ‑менеджеров крупных американских компаний. Около 74% респондентов заявили, что больше доверяют советам ИИ, чем советам семьи и друзей. При этом 38% готовы позволить ИИ принимать бизнес‑решения от их имени.

Одной из причин быстрого внедрения ИИ может быть страх отстать от конкурентов. В исследовании IBM среди 2000 генеральных директоров 64% респондентов сообщили, что их организации внедряют некоторые технологии ещё до того, как полностью оценили их потенциальную пользу. Опрос Ardoq также показал, что 66% опасаются проиграть конкурентам, если не будут действовать быстрее в сфере ИИ.

Получается, многие доверяют ИИ не потому, что он надёжен, а потому что переживают, что останутся позади. Многие к тому же ждут, что технология сделает за них то, что они не готовы делать сами. И сегодня именно это ожидание — а не реальные результаты от внедрения ИИ — формирует отношение к нейросетям.

Они врут, но мы всё равно верим

Нейросети выдают ложь с той же уверенностью, что и правду. Они не лгут осознанно — они галлюцинируют, генерируя наиболее вероятный ответ без проверки на истинность. Это не баг, а свойство модели: она не отличает факты от вымысла.

Почему же человек так легко принимает ответ ИИ за правду? Дело в принципиальной разнице между ошибкой нейросети и ошибкой человека. Эксперт опирается на опыт, может объяснить ход своих мыслей, уточнить, где он не уверен, и несёт ответственность за последствия своего совета. Нейросеть ничего не «знает» в человеческом смысле. Ошибки ИИ трудно заметить именно из‑за формы подачи: ответ звучит спокойно, грамотно и без сомнений. Мы подсознательно принимаем такую уверенность за компетентность. У человека нас могут насторожить пауза, оговорка или эмоция, а у нейросети почти любой текст выглядит завершённым и авторитетным.

Во сколько обходится вера в ИИ

Очень показателен эксперимент Anthropic под названием Project Vend. Исследователи дали ИИ‑агенту контроль над мини‑бизнесом — онлайн‑магазином по продаже закусок. Модель Claude, получившая имя Claudius, должна была управлять запасами, ценами и закупками.

Claudius стартовал очень уверенно, но быстро начал галлюцинировать: заявлял о встречах с несуществующими людьми, пытался провести сделки с вымышленными сотрудниками, «ездил» по адресам из мультфильмов — например, выезжал на склад по адресу 742 Evergreen Terrace, Springfield из популярного мультсериала «Симпсоны». Главной ошибкой стало решение предложить 25% скидку всем сотрудникам Anthropic — а именно они и составляли 99% покупателей. Это привело к постоянной продаже товара ниже себестоимости. Эксперимент завершился крахом.

Этот эксперимент — метафора того, что происходит в реальном бизнесе, когда ИИ доверяют без проверки. Галлюцинации не выглядят ошибками — они смотрятся как уверенные и продуманные действия. Их трудно заметить, потому что они упакованы в ту же безупречную форму, что и правильные решения. И именно эта неразличимость делает их опасными.

Галлюцинации нейросетей не остаются абстрактной проблемой — они уже стоят бизнесу миллионы долларов. Deloitte Australia вернула $290 000 австралийскому правительству за анализ со сфабрикованными данными. Производственная компания лишилась $3,2 млн из‑за скомпрометированного ИИ‑агента, который самостоятельно принимал решения о закупках.

Где будем проводить черту?

Где та граница, за которой доверие к ИИ становится не просто рискованным, а недопустимым? Я бы не делегировал нейросети решения, от которых зависят судьбы людей и будущее компании. Например, увольнение сотрудника — даже если ИИ предлагает вариант по метрикам, он не знает контекста: какой вклад этот человек внёс, какие обстоятельства за кадром. То же с повышением или понижением в должности. Или возьмём распределение бюджета между направлениями — ИИ может предложить математически выгодное решение, но не учтёт стратегические приоритеты, репутационные риски или отношения с ключевыми партнёрами. Выход на новый рынок — тоже за пределами «компетенций ИИ»: здесь недостаточно данных, которые есть у нейросети, потому что часть информации всегда остаётся за пределами её доступа.

В общем, есть множество решений, где недостаточно математически выбрать оптимальный вариант: нужно учитывать обстоятельства, мораль, ответственность и быть готовым лично ответить за последствия. Нейросети можно поручить расчёт и рекомендацию, но нельзя отдавать ей право решать судьбу компании или человека.

Эта позиция не просто личное мнение — она отражает то, что бизнес‑лидеры уже чувствуют интуитивно. Исследование Expleo 2026 года показывает: если 73% доверяют ИИ суммаризацию писем, то для финансовых или бюджетных решений доверие падает до 43%, а для стратегических — ещё ниже. Чем выше ставка, тем меньше готовность делегировать. Но при этом, как мы видели выше, страх отстать продолжает подталкивать к внедрению даже в тех областях, где доверия нет.

Именно здесь и кроется главная опасность: границы доверия размываются под давлением страха и надежды. То, что сегодня кажется недопустимым — кадровые решения, стратегический выбор, — завтра может стать нормой под влиянием FOMO (от англ. Fear of Missing Out, синдром упущенной выгоды или страх пропустить что‑то важное, интересное и полезное). Поэтому важно не просто знать, где проходит граница, но и уметь её удерживать.

Я считаю, что в ближайшие годы первоначальный ажиотаж вокруг ИИ постепенно пойдёт на спад. Эффект магии уже ослабевает, и через несколько лет само наличие ИИ в продукте перестанет быть знаком качества.

Но здоровый скепсис появится не у всех одновременно. Кто‑то продолжит воспринимать нейросеть как всезнающего собеседника, а кто‑то после первой серьёзной ошибки перестанет доверять ей совсем. Скорее всего, вскоре мы придём к более спокойному отношению: будем активно пользоваться ИИ, но начнём лучше понимать, где ему можно довериться, а где необходимо всё перепроверять.

По своему опыту я вижу, что ИИ может вполне эффективно усиливать то, что уже есть. У сильного предпринимателя он усилит интуицию и скорость проверки гипотез. Но при этом у слабого — создаст иллюзию всезнания и подменит реальность убедительной, но ложной картинкой. Разница между этими сценариями — не в технологии, а в том, кто и как ею пользуется. Доверие к ИИ, как и любое другое доверие, требует проверки и ответственности. И чем выше ставка, тем тщательнее должна быть эта проверка.

Бонус: как проверять ИИ

У меня есть простой алгоритм из трёх шагов:

1. Проверьте источник. Любая цифра, ссылка, цитата — только по первоисточнику. Если нейросеть ссылается на исследование, найдите саму публикацию, проверьте её авторов и дату, и убедитесь, что такой вывод там действительно есть. Важно: просить ИИ просто «проверить самого себя» недостаточно — он может так же уверенно повторить ошибку.
2. Проверьте логику. Даже если цифры верны, посмотрите, как именно сформулирован вывод. Нейросеть может собрать правильные факты, но сделать из них неправильный вывод.
3. Проверьте себя. Задайте вопрос: «Я доверяю этому ответу только потому, что он звучит уверенно?» Если да — я проверяю все данные ещё раз.

Относиться к нейросети нужно не как к носителю истины, а как к помощнику, который может предложить направление, идею или черновик. Ответственность за фактическую точность всё равно остаётся на человеке.

Главный вывод

Доверие должно опираться не на уверенный тон — независимо от того, отвечает нейросеть или человек, — а на проверяемые источники, прозрачную аргументацию, подтверждённую квалификацию и готовность признавать границы знания. Такой подход помогает сохранить деньги, время и репутацию в мире, где нейросети способны генерировать недостоверные ответы, почти неотличимые по форме от правильных.