Кто ответит за ошибки ИИ в работе компании

Программы с технологией искусственного интеллекта стремительно врываются в нашу жизнь, обещая заменить работников во многих отраслях человеческой деятельности.

В 2022 г. появился ChatGPT, став для людей доступным собеседником, который может решать множество задач: осуществлять быстрый поиск информации, генерировать картинки и видео, а главное — он может анализировать и обрабатывать поступающую информацию.

Кто отвечает за ошибки искусственного интеллекта

Российские компании на внедрение ИИ тратят более 90 млрд руб. в год, при этом его используют не более 6% организаций. Чаще всего ИИ используется для взаимодействия с клиентами, что позволяет снижать нагрузку на колл‑центр. ИИ позволяет автоматизировать сложные процессы производства, подстраиваясь под изменение спроса и меняющиеся экономические условия.

При внедрении ИИ для решения бизнес‑задач или в производстве необходимо четко понимать какие правовые риски могут возникать при использовании такой технологии.

Юридически программа искусственного интеллекта является программой для ЭВМ и охраняется авторским правом также, как и произведения литературы или искусства. Поэтому у такой программы есть правообладатель, устанавливающий свои правила использования такой программы. Для этого он заключает с пользователями программы лицензионный договор, условия которого размещаются на сайте правообладателя.

Обычно пользователи не обращают внимания на условия использования программы, потому что они достаточно объемные и написаны сухим юридическим языком, но в них содержатся существенные положения, на которые необходимо обратить внимание при использовании ИИ, особенно в управленческих или производственных процессах.

Самое основное, на что пользователи должны обратить внимание — это отказ от любой ответственности правообладателя за убытки, которые могут возникнуть при использовании ИИ. Такие положения содержатся, например в условиях использования ИИ от компании “Яндекс” или условиях использования ChatGPT, и это является стандартным условием, которое встречается во многих лицензионных договорах на компьютерные программы. Поэтому при принятии решения об использовании помощника в виде ИИ необходимо учитывать риск того, что программа может не выполнять всех тех функций, на которые вы рассчитываете. И все правовые последствия ошибок ИИ будут возложены только на вас как пользователя программы. Например, ИИ может сгенерировать уверенный ответ, не основанный на реальных данных, или содержащий фактические ошибки, что называется называется феноменом “галлюцинирование”. При этом в условиях использования программ с технологией ИИ прямо указано, что пользователь должен самостоятельно проводить проверку корректности данных, выдаваемых ИИ, для своих целей, и самостоятельно отвечает за их полноту и корректность.

Новости

Персональные данные и трансграничная передача информации

Также необходимо обратить внимание на то, что алгоритмы ИИ учатся на поступающем контенте, поэтому в условиях их использования специально указывается согласие пользователя на обработку персональных данных компанией‑правообладателем программы. Поэтому в запросах к ИИ не допускается использовать персональные данные клиентов, или работать с договорами или заявками. В таких случаях необходимо заключать отдельные договоры с компаниями, предоставляющими права на ИИ, на программы, работающие только с данными, находящимися в контуре вашей организации, и не позволяющими попадать им в свободный доступ в сети Интернет. Такое же правило относится и к персональным данным соискателей на вакансии, которые обрабатывает ИИ. В противном случае, компании может грозить административная ответственность за нарушение законодательства о персональных данных в виде крупных штрафов согласно статье 13.11 Кодекса Российской Федерации об административных правонарушениях.

При использовании иностранных ИИ в условиях указывается иностранное законодательство, а также хранение данных в иностранных государствах, что является трансграничной передачей персональных данных, для осуществления которой необходимо направить уведомление Роскомнадзору. Например, политика конфиденциальности чата GPT указывает на то, что хранение и обработка персональных данных осуществляется на серверах, находящихся на территории Соединенных Штатов Америки, а также в странах, где находятся партнеры компании OpenAI (список не раскрывается). Перечень иностранных государств, которые осуществляют адекватную защиту прав субъектов персональных данных установлен Роскомнадзором, и США в него не входит, поэтому при работе с чатом GPT запрещается использовать данные, содержащие персональные данные граждан России.

Как безопасно внедрять ИИ в работу компании

Также при принятии решения об использовании программы с ИИ необходимо помнить, что компания‑правообладатель может в одностороннем порядке изменять условия использования, которые являются лицензионным договором, а также приостанавливать доступ к ИИ пользователям, которые нарушают условия, и это допускается законодательством о праве интеллектуальной собственности. Поэтому вся ответственность в случае прекращения работы программы ложится исключительно на компанию‑пользователя программы с технологией ИИ.

Поэтому для больших технологических процессов целесообразно заключать с правообладателями программ технологии ИИ отдельные лицензионные договоры об использовании программ, которые работают только в контуре вашей организации, и не осуществляют трансграничную передачу персональных данных.

При этом, если ИИ осуществляет обработку данных клиентов, то в компании должен быть назначен специальный человек, который осуществляет проверку выходных данных, контролирует ИИ и может исправлять возможные ошибки.

Поэтому ИИ может быть отличным инструментом, который снимает часть монотонной работы с людей, но пока он может работать только как помощник человека, но не является его полноценной заменой.