Без прав, но обязан: как бизнесу подготовиться к регулированию ИИ

Сегодня мы встретились с новым вызовом, когда ИИ становится неотъемлемой частью общества. В народе уже появилось некое определение ИИ — «цифровая сущность», к которой нужно привыкать и учиться работать с ней, соблюдая безопасность и прозрачность. Большинство из нас, включая законодателей и общественных деятелей, задаются вопросами: стоит ли вводить уголовную ответственность за последствия некорректной с точки зрения человека работы ИИ? Сможет ли ИИ стать субъектом права? Где грань между техническим сбоем и преступной халатностью? Возможно уже стоит вводить новый кодекс этики при взаимодействии с ИИ, который будет обязательным для всех нас, а особенно для крупных компаний.

В отсутствие четкой законодательной базы и в целом понимания того, кто должен нести ответственность за возможные ошибки, все чаще встречаются самые неожиданные применения ИИ и все чаще появляются «звоночки» — ChatGPT‑4 прошел тест Тьюринга, робот на мероприятии набросился на публику, а Grok Илона Маска вдруг ни с того, ни с сего решил обсудить тему геноцида белых в Южной Африке.

Возможно пора задуматься о том, что мы действительно готовы доверить нейросети, какие обязанности на нее возложить и готовы ли уравнять ее при этом в правах с человеком. Пока ни у кого нет понимания о том, кто отвечает за ошибки ИИ и реально ли будет в дальнейшем возложить на него эту ответственность.

Что с законами?

Правовая база только начинает развиваться, но постепенно мы видим как формируются базовые правила и законодательные акты, в которых государства пытаются сбалансировать развитие технологий с защитой прав и свобод граждан. Пожалуй, самый серьезный на сегодняшний день документ, целями которого являются поддержка инноваций и защита фундаментальных прав и свобод граждан при использовании и внедрении ИИ, это EU AI Act, Регламент Евросоюза об искусственном интеллекте, вступивший в силу в августе 2024. В акте выделяются несколько типов искусственного интеллекта:

1. Высокорисковый ИИ — манипулятивный, который может оказывать влияние на человека, на его решения, мнение и действия.
2. На втором месте стоят более безопасные системы — всевозможные виртуальные ассистенты, голосовые помощники, фото и видео‑редакторы.
3. На третьем месте — переводчики, транскрибаторы и прочие инструменты для автоматизации рутинных задач.

Большинство ограничений касаются первой группы решений. AI Act запрещает системы социального скоринга, которые оценивают или классифицируют людей на основе их поведения и личных характеристик. Под запрет попадают системы, которые анализируют эмоции сотрудников на рабочем месте, если только это не вызвано медицинской необходимостью или требованиями безопасности. Также нельзя использовать ИИ для манипулирования поведениям: нейросеть не может давать рекомендации сотрудникам о том, например, как им следует себя вести на встречах.

Эти запреты направлены на защиту основных прав и свобод граждан ЕС, предотвращение дискриминации и манипулирования поведением. Нарушение этих положений может повлечь за собой штрафы до 35 миллионов евро или 7% от годовой выручки компании.

Аналогичный акт появился недавно в Южной Корее, он несколько мягче, чем европейский. Его задача — создавать возможности для бизнеса, сохраняя при этом четкие этические стандарты в вопросах использования ИИ. Также законодательные инициативы в области ИИ внедряются в Казахстане.

В России законодательство, регламентирующее использование ИИ только в процессе разработки также нет законодательных актов, регламентирующих использование ИИ, однако определенные подвижки в сторону регулирования отрасли уже идут. Так, Правительство планирует создать Центр развития ИИ — координационный центр для реализации всех государственных ИИ‑инициатив. Отдельных полномочий у центра не будет, он станет коммуникационной площадкой под управлением Минцифры. Его задачей будет координирование работы госорганов, региональных властей и бизнеса по вопросам использования ИИ.

Мировое сообщество всё более настойчиво работает над созданием правовых механизмов для регулирования ИИ, учитывая увеличивающиеся риски и вызовы, связанные с его применением. Однако формальные правовые акты сами по себе не решают всех проблем — важно, чтобы в законодательство были включены этические принципы, особенно в аспектах, касающихся автономии человека, справедливого отношения и прозрачности алгоритмов. Основная задача для государств — найти баланс между поддержкой технологического прогресса и обеспечением защиты прав и свобод граждан в условиях цифровой трансформации.

А точно ли нужно регулировать вопросы использования ИИ?

Современные примеры использования искусственного интеллекта, которые на первый взгляд могут показаться привычными, зачастую несут значимые юридические и этические вызовы. Так например в Сиднее на одной из радиостанций ежедневно в эфир выходит искусственный интеллект по имени Thy — он играет в хип‑хоп, ведёт беседы и взаимодействует со слушателями. Полгода аудитория не знала, что за голосом и текстами скрывается не живой ведущий, а цифровой персонаж. Только спустя несколько месяцев руководство радиостанции призналось в истинной природе своего «коллеги».

Законно ли такое поведение? В Австралии пока нет нормативного акта, обязывающего радиостанции раскрывать, что за микрофоном — ИИ. С точки зрения закона, нарушений нет. Но с точки зрения этики вопрос остаётся открытым: имеет ли право медиарынок скрывать от аудитории, с кем она общается?

Показателен пример с ИИ‑студентом Флинном, официально зачисленным в Венский университет. Флинн успешно сдал портфолио и прошел собеседование на программу цифрового искусства. Разработчики заявляют, что хотят изучить, как ИИ может взаимодействовать с творческим процессом. Зачисление Флинна стало возможным из‑за отсутствия прямого запрета — закон просто не успел отреагировать на такую ситуацию.

В условиях правовой неопределённости, когда ИИ всё чаще действует как самостоятельный участник процессов, особенно важно опираться на подходы, заложенные, например, в AI Act ЕС — где ответственность за ИИ‑продукты чётко возлагается на человека, — чтобы обеспечить баланс между технологическим прогрессом и защитой прав и свобод.

Что должен регулировать закон

Ответственность за ошибку. Нельзя быть уверенным, что ИИ не ошибается. Поэтому использование должно обязательно контролироваться человеком, особенно если речь идет о манипулятивном ИИ, о вопросах безопасности, жизни и прав человека. На данный момент в России нет однозначного закона, который определял бы виноватых, каждый случай должен тщательно изучаться с привлечением технических экспертов.

В большинстве ситуаций мы имеем три задействованных стороны. Это бизнес, который использует ИИ‑решение, компания‑разработчик, которая создала решение, используя доступные модели, и разработчик самой модели. При этом ни одна из сторон не может быть 100% уверенной в том, как ИИ интерпретирует запрос, какой выдаст ответ. По большому счету это черный ящик, и никто не может предугадать, как система будет обучаться в процессе работы и как изменятся ее навыки, знания и суждения, например, через полгода. Это особенно важно для моделей, которые обучаются на массивах данных без предварительной разметки и способны улучшать свои навыки без программирования.

В этом аспекте очень интересно решение российских законодателей. Минздрав с 1 сентября разрешил применять «системы поддержки принятия врачебных решений на основе ИИ» при отложенных консультациях. Однако ответственность за результат всё равно лежит на человеке, то есть врач, а не ИИ, будет нести юридические последствия возможной ошибки. Это логично: ИИ в текущей правовой системе не является субъектом права и не может быть привлечён к ответственности.

Видимо, из тех же соображений Госдума предлагает использовать ИИ для решения судебных дел. На первом этапе искусственному интеллекту доверят несложные дела массового характера — разводы, долги по кредитам и оплате ЖКХ.

Использование цифровых сотрудников. ИИ — не живой человек, ему не нужно платить за работу, он выполняет задачи быстрее, эффективнее, без выходных и отпусков. Всегда будет соблазн отдать максимум работы именно ему, сократив количество живых сотрудников.

Вероятно, на законодательном уровне появятся определенные требования, квоты, которые будут регулировать соотношение живых и цифровых сотрудников.

Также закон должен регулировать обязательный контроль со стороны человека за работой манипулятивного, высокорискового ИИ.

И это лишь малая часть вопросов, которые необходимо продумать и решить уже сейчас.

Что ждет нас завтра и о чем пора было задуматься еще вчера

Уже сейчас можно предположить, что рано или поздно ИИ создаст неравноправные условия для предпринимателей. Те, кто раньше освоит и внедрит его, смогут отказаться от значительной части живых сотрудников, резко снизить издержки и увеличить прибыль. Мир уже переживал подобное во времена промышленной революции, в период появления конвейерного производства. Вполне возможно, что нас ждет очередной виток «ИИ‑революции».

Если ИИ становится субъектом ответственности — то есть мы признаём за ним возможность совершать ошибки и нести за них последствия — неизбежно встаёт следующий вопрос: а не следует ли тогда наделить его и определёнными правами?

Юридическая система традиционно основывается на принципе баланса: наличие правоспособности предполагает также наличие обязанностей и ответственности. Таким образом, если мы начнём рассматривать искусственный интеллект как самостоятельного субъекта, естественно возникает вопрос: какие права могут быть ему признаны? Например, может ли ИИ потребовать ограниченного рабочего дня, отдыха, оплаты труда, физического тела, наконец? Или более совершенного тела, если мы говорим об андроидах, человекоподобных роботах с ИИ? История с виртуальными персонажами от Character AI может получить свое продолжение — если человек решит вступить в брак с андроидом, станет ли в этот момент ИИ объектом права?

ИИ развивается гораздо быстрее, чем мы можем себе представить. Еще недавно мы восхищались кулинарными сервисами, где рецепты генерировал искусственный интеллект, а уже завтра он будет принимать решения в суде или самостоятельно ставить диагнозы в клиниках.

Ключевая идея в том, что нужно всегда помнить, что ИИ — не субъект морали, он не различает добро и зло. Он ищет оптимальное решение, а не справедливое. Именно поэтому необходим постоянный человеческий контроль — особенно там, где речь идёт о манипуляциях, здравоохранении, судопроизводстве. Как подчёркивает проректор МГУ Виктор Вайпан, главный вопрос будущего — не «насколько мощным станет ИИ», а будет ли человек сохранять над ним контроль. У ИИ нет ценностей. Только цели. А значит — нет и границ, если их не установим мы.

Чек‑лист: как бизнесу подготовиться к регулированию ИИ

Чтобы минимизировать риски и подготовиться к будущим требованиям законодательства, компаниям следует предпринять конкретные шаги.

Провести аудит ИИ в бизнесе, включая юридическую проверку. Компаниям важно понимать, где используется ИИ:

1. Уточняйте, если не уверены, используется ли в продукте/сервисе искусственный интеллект.
2. Если вы взаимодействуете с ИИ‑системой — чётко понимайте её назначение и ограничения. Ознакомьтесь с политикой используемого вами ИИ‑сервиса.
3. Рекомендуется не загружать персональные данные в ИИ и любую другую чувствительную информацию.

Внедрить внутренние регламенты и правила по использованию ИИ. Это один из важных этапов.

Назначить ответственного за ИИ‑комплаенс. Это может быть представитель C‑level, специалист по цифровому комплаенсу или отдельный комитет внутри компании.

Обучайте персонал основам взаимодействия с ИИ. Включая распознавание рисков, оценку надежности выводов модели и сценарии на случай ошибок.

Для сотрудников важно транслировать мысль, что каждый пользователь сам ответственен за результаты использования ИИ. Оценивайте результат критически: всегда проверяйте выводы ИИ, особенно если они влияют на клиентов, финансы, репутацию.

Информируйте пользователей. Если ИИ напрямую взаимодействует с клиентом (чат‑бот, генератор контента) — предупреждайте об этом. Используйте стандартные формулировки и шаблоны (уточните у юриста или менеджера продукта).

Не забывайте об этических принципах и стандартах. Компании должны соблюдаться принципы справедливости, недискриминации, прозрачности в использовании ИИ.