Более половины российских компаний применяют искусственный интеллект (ИИ) в охранных или диагностических видеокамерах, а также для поддержки принятия управленческих решений, в маркетинге или управлении персоналом (по данным Института статистических исследований и экономики знаний НИУ Высшая школа экономики).
Наряду с очевидными возможностями, которые предоставляет ИИ, есть и ряд рисков, в частности риски нарушения уголовно‑правовых норм. В данной статье рассмотрим такие риски, которые могут затронуть руководителя организации или ответственного департамента.
Что такое искусственный интеллект с точки зрения права России
Искусственный интеллект (ИИ) по праву России — это комплекс технологий для получения интеллектуальных результатов, аналогичных работе человека.
В этот комплекс входят следующие элементы:
программное обеспечение (нейросети, векторные или другие технологии);
сети и оборудование связи;
сервисы по обработке данных и поиску решений.
Таким образом, законодательное регулирование ИИ объединяет в себе право интеллектуальной собственности, законодательство о связи и право в сфере платформенной экономики (интеллектуальных сервисов).
Что может пойти не так настолько, чтобы возникли уголовные риски для руководителя организации?
(1) см. Указ Президента РФ № 490 от 10.10.2019 и статью 2 Федерального закона от 24.04.2020 № 123‑ФЗ «О проведении эксперимента…”.
Когда несет уголовную ответственность именно руководитель
В случае, если применение ИИ нанесло какой‑либо ущерб самой организации или клиентам, должно быть доказано, что произошел один из следующих случаев:
личное участие в применения ИИ в организации (применяется личный аккаунт руководителя);
личное одобрение применения ИИ в организации (приказ о вводе в эксплуатацию, одобрение в переписке и т.д.);
злоупотребление полномочиями (например, руководитель распорядился применять ИИ для массового обзвона или обмана клиентов);
неисполнение обязанностей по контролю и организации процессов (применение ИИ без наличия необходимых сертификатов, шифрования или иных обязательных требований, не предприняты необходимые меры информационной безопасности, предусмотренные локальными правилами компании или законодательством, отраслевыми стандартами безопасности).
Руководитель может понести ответственность, если он одобрил применение ИИ или не запретил его использование, зная, что работники используют ИИ для рабочих задач.
Рассмотрим примеры, какие риски могут возникнуть в связи с эксплуатацией ИИ. Наряду со стандартными рисками, связанными с не соблюдением авторских или патентных прав, при использовании ИИ есть специфические риски, связанные с возможностью выдачи им некорректной информации, в том числе политических оценок, поддержки экстремизма или оправдания терроризма.
Вид нарушения
Пример
Ответственность
Передача данных о клиентах, полученных без их согласия, для обработки в ИИ
Куплена база данных о клиентах, с помощью ИИ из нее делаются выборки
До 4 лет лишения свободы, статья 272.1. УК РФ
Обработка персональных данных на серверах за пределами территории РФ, нанесен ущерб
Персональные данные клиентов передаются для составления объявлений или формирования отчетов в зарубежный ИИ
До 4 лет лишения свободы, статья 272.1. УК РФ
Обход защиты для сбора маркетинговой информации с сайтов
Создан парсер, которые собирает цены на сайте конкурента. ИИ имитирует поведение пользователя — распознает и обходит капчу или другие системы, защищающих от сбора данных роботами.
До 5 лет лишения свободы, ч. 3 статьи 272 УК РФ
Нарушение требований по защите и эксплуатации ИИ в критической инфраструктуре (банковской, производственной, транспортной, медицинской)
Медицинские снимки с персональными данными передаются в зарубежный ИИ, в результате произошла их утечка. В результате наступил крупный ущерб, в частности, контрагент оштрафован за нарушение норм о локализации обработки персональных данных только на территории России на 6 млн рублей.
До 5 лет лишения свободы, статьи 274 УК РФ
Разрешение продажи или сдачи в аренду опасных товаров или услуг
Продажа или сдача в аренду беспилотного транспорта, не проверенных в надлежащем порядке на безопасность, в случае нанесения ими ущерба или смерти при ДТП
До 10 лет лишения свободы, статья 238 УК РФ
Создание образа документа с подписью другого руководителя
ИИ применен для генерации изображения образа договора или первичных бухгалтерских документов, подписанных иным лицом с целью получения материальных ценностей ли освобождения от обязанности по их передаче.
До 6 лет лишения свободы, статья 159 УК РФ
Проанализировав написанное выше, можно дать следующие рекомендации по минимизации рисков привлечения руководителя к уголовной ответственности:
применение ИИ, чьи сервера размещены на территории России;
запрет передачи доступа к аккаунту руководителя третьим лицам, в том числе его подчиненным;
принятие регламентов, запрещающих использование ИИ с личных аккаунтов (пример регламента можно скачать на персональном сайте автора статьи);
дополнение проверкой результатов ИИ со стороны человека или другого ИИ для контроля соблюдения законодательства, особенно при публичном размещении информации;
ограничение пользовательского ввода для блокировки политических, экстремистских и иных запросов, которые могут привести к нарушениям законодательства;
привлечение экспертов по правовому регулированию в сфере ИИ на ранних этапах проектирования и внедрения в ИИ в организации.
В настоящее время судебная практика в данной сфере ещё редкая и не успела сложиться. Наиболее нашумевшее — это уголовное дело против руководства Clearview AI (Австрия, 2025). Компания Clearview AI создала базу данных из более чем 60 миллиардов фотографий лиц, собранных по всему интернету без согласия людей. Это признано нарушением GDPR в Европе. Другие случаи касаются больше мошенничества при привлечении инвестиций в ИИ стартапы. Вместе с тем, актуальность проблемы подчеркнута на самом высоком уровне.
Как недавно подчеркнул Владимир Путин, ссылка на то, что «так сказал искусственный интеллект», не освобождает от ответственности. Это сигнал для стратегически мыслящих руководителей по принятию мер для минимизации вышеуказанных рисков.
Собираем самые полезные материалы, интересные мероприятия и важные новости в коротких письмах. Вы можете подписаться на одну из рассылок или на все сразу.
62K подписчиков
Дважды в неделю
Как вести бизнес в России
Важные новости, бизнес‑кейсы, разборы законов и практические советы для предпринимателей
15K подписчиков
Раз в неделю
Как зарабатывать на маркетплейсах
Новости торговых площадок, инструкции для селлеров и лайфхаки успешных продавцов
20K подписчиков
Раз в две недели
Мероприятия для бизнеса
Анонсы вебинаров, конференций и других событий для предпринимателей
3K подписчиков
Раз в две недели
Рассылка для бухгалтеров
Новости и советы, которые помогут упростить работу и больше зарабатывать
