Что такое дипфейк и как его создать

С помощью искусственного интеллекта можно создать видео, на котором известный человек делает что‑то, чего в реальности не делал, озвучить любой текст голосом знаменитости без ее участия или подготовить реалистичные фото.

Рассказываем, как бизнес может использовать дипфейки в работе и в чем опасность этой технологии.

Чем они полезны бизнесу

Дипфейки помогают бизнесу:

• персонализировать маркетинг;
• экономить на производстве контента;
• создавать развлекательный контент;
• улучшать клиентский сервис.

Персонализация маркетинга. Дипфейки позволяют создавать контент с виртуальными персонажами или изменять речь и образы. Это делает рекламу более таргетированной и запоминающейся.

Экономия на производстве контента. Использование дипфейков сокращает затраты на съемки с актерами, локациями и оборудованием. Можно один раз заплатить актеру за создание образа, а потом создавать контент без него.

Создание развлекательного контента. С помощью дипфейка можно делать смешные видео со знаменитостями, менять актеров в фильмах или мультиках, интегрировать рекламу продукта в фото или видео.

Улучшение клиентского сервиса. Виртуальные помощники с реалистичным обликом помогают бизнесу общаться с клиентами в режиме 24/7.

Технологию глубинного обучения, с помощью которой делают дипфейки, также используют в цифровых сервисах — например, при переводе видеороликов на другие языки. Обученные нейросети могут переозвучить видео на новом языке тем же тембром голоса, что использован в оригинале, и даже синхронизировать движение губ с произношением текста.

В чем опасность дипфейков

Дипфейки несут такие опасности:

• распространение дезинформации — дипфейки могут содержать ложную информацию, выдуманные новости или события;
• манипуляция общественным мнением — дипфейки могут использовать, чтобы вводить людей в заблуждение и влиять на политические и социальные настроения;
• угроза личной безопасности — дипфейки могут использовать, чтобы шантажировать человека, влиять на его рейтинг или репутацию;
• подрыв доверия к медиа — массовое использование дипфейков снижает доверие к видеоматериалам и информации, которую распространяют медиаресурсы;
• экономический ущерб — фальшивые видео могут нанести ущерб компаниям, оклеветать их или, наоборот, незаслуженно поднять рейтинг.

Дипфейки могут быть опасны и для обычных людей, и для бизнеса.

Как использовать дипфейки легально

Как создать дипфейк

Чтобы создать дипфейк, нужно использовать технологии глубинного обучения. Вот как пошагово выглядит этот процесс на примере генерации дипфейк‑видео:

1. Собрать данные.
2. Обработать данные и обучить модель.
3. Сгенерировать дипфейк.
4. Сделать финальную обработку.

Шаг 1. Собрать данные. Сначала необходимо собрать достаточное количество данных о лице, которое вы хотите использовать для создания дипфейка. Эти данные могут включать в себя фотографии и видеоролики с различными углами, выражениями лица и освещением. Чем более разнообразные и качественные данные собраны, тем более реалистичным получится результат.

Шаг 2. Обработать данные и обучить модель. Собранные данные обрабатывают при помощи специальных алгоритмов компьютерного зрения. Эти алгоритмы выделяют ключевые особенности лица: его контуры, морщины, движения губ.

Данные о лице передают модели глубокого обучения на основе генеративно‑состязательной сети. Нейросеть учится создавать реалистичные изображения лица на основе полученных данных и оценивать итоговый результат. В процессе обучения модель улучшает свои навыки и создает все более реалистичные изображения, пока не начнет путать копию с оригиналом.

Шаг 3. Сгенерировать дипфейк. Когда модель обучилась, автор дипфейка берет целевое видео, в котором нужно заменить лицо, и применяет обученную модель для создания нового видео с лицом, сгенерированным моделью.

Шаг 4. Сделать финальную обработку. Полученный дипфейк может потребовать некоторой доработки, которая сделает его более реалистичным. Автор видео может скорректировать освещение, синхронизировать движение губ фейка со звуковой дорожкой или удалить неудачные кадры, на которых видны следы монтажа.

Некоторые нейросети, которые находятся в публичном доступе, уже достаточно обучены для создания фотореалистичных фейковых изображений. Например, Midjourney создавала фото Папы Римского в дорогом пуховике и поддельные репортажные кадры с арестом известных политиков. Для создания дипфейк‑видео есть отдельные инструменты. Один из них — приложение FakeApp, которое позволяет самостоятельно обучать модель на пользовательских материалах с помощью открытой библиотеки Google TensorFlow.

Как распознать дипфейк

Дипфейки могут быть очень реалистичными, однако есть несколько признаков, по которым можно определить подделку:

• артефакты;
• несовпадения внутри видео;
• нестандартное движение на видео;
• неправдоподобное поведение.

К ним относятся различные дефекты, которые возникают после обработки видео: например, неестественные края лица или неровный переход между лицом и фоном. В некоторых случаях дипфейк‑фильтр может «слетать» при резких движениях лица в разные стороны. Авторы фейков знают об этих недостатках, поэтому пытаются скрыть их с помощью ограничения в движениях, эффекта размытости или пониженного качества изображения.

Иногда дипфейки могут содержать несоответствия между лицом и другими элементами видеоряда, такими как освещение, тень, фон или фокус. Например, лицо может казаться неестественно освещенным или отличаться по качеству от изображения на фоне.

Если модель была обучена на недостаточно широком наборе данных, мимика и движение губ в дипфейк‑видео могут выглядеть неестественно. Например, у человека широко открывается рот, но почти не двигается подбородок, или он хмурит брови, но кожа на верхних веках при этом остается неподвижной. Подобные детали могут указывать на фейковость видео.

Если на видео или аудио человек ведет себя совершенно иначе, чем мы привыкли видеть, выражает нехарактерные или излишне радикальные для него мысли, это может быть признаком дипфейка.

Подборка программ для создания дипфейков

Вот самые популярные сервисы для создания дипфейков:

Что важно запомнить

1. Дипфейк — реалистичная подделка фото-, аудио- или видеоматериалов с использованием образа человека, который не принимал участия в их подготовке.
2. Для создания дипфейков используют нейросети и технологии машинного обучения.
3. Дипфейки со знаменитостями можно законно применять в рекламе. Для этого нужно получить разрешение на использование образа человека, которого имитирует нейросеть.
4. Чтобы распознать дипфейк, можно использовать специальные приложения. Также можно сделать это самостоятельно, если обращать внимание на детали: несовпадения внутри кадра, нестандартные движения и неправдоподобное поведение героя.