Раньше, чтобы перевоплотиться в другого человека, необходимы были тонны грима, костюмы и часы работы над образом. С развитием технологий можно оживить портрет Моны Лизы, увидеть, как Ди Каприо ест шашлык и запивает его водкой, или как президент США танцует «Макарену». Все это стало возможным благодаря технологии дипфейк. Однако дипфейк является не только развлечением, но и угрозой.
Что такое дипфейк?
В 2017 году в социальной сети Reddit появились порнографические видео с лицами знаменитостей, что вызвало этический спор вокруг технологии. Дипфейк – это сложный алгоритм глубинного обучения, основанный на искусственном интеллекте, который может обучаться на несортируемых данных: лицах, движениях тела, мимике, голосах и т. д. Эта технология используется для замены лиц на видеоизображениях. Так, в 2022 году в России выпустили сериал «ПМЖейсон», полностью основанный на технологии дипфейка. В нем были использованы лица голливудских актеров.
Как работает дипфейк?
При создании дипфейка используется GAN, генеративно-состязательная сеть (generative adversarial network). Это алгоритм машинного обучения, который работает за счет двух нейросетей. Первая занимается заменой лица в исходным изображении на необходимое. Вторая пытается отличить оригинал от подделки. При неудаче первая нейросеть должна обнаружить и устранить любые недостатки в дипфейках, что затруднит их декодирование детекторами дипфейков. Процесс будет повторяться до тех пор, пока вторая нейросеть не сможет найти отличий.
В чем опасность?
Дипфейки могут зайти дальше замены лица на видео. Так, сейчас набирает обороты дипфейк-аудио. С помощью тех же алгоритмов глубинного обучения, что и у дипфейка для видео, чей-то голос может быть воспроизведен весьма реалистично. Технология уже стала причиной некоторых убедительных подделок.
В 2019 году выяснилось, что мошенникам удалось получить банковский перевод в размере 240 000 долларов после использования дипфейкового звука для воспроизведения голоса генерального директора. Фальшивый генеральный директор попросил «немедленную помощь для завершения срочной сделки».
Пока что нет закона, запрещающего использовать чьи-либо лица или голоса, поэтому дипфейк позволяет обходить авторские права. Так, через несколько лет в кинолентах будут использоваться не реальные актеры, а дипфейки. Эксперт по технологии Генри Аждер приводит конкретные данные: 96% дипфейков в Интернете — порнография, причем в абсолютном большинстве в них используются женские лица знаменитых актрис.
Дипфейки также могут нанести социальный вред и ускорить снижение доверия к традиционным СМИ. Так, в Instagram* в 2019 году появилось видео, где Марк Цукерберг говорил о том, как Facebook использует персональные данные пользователей – видео было снято с помощью этой же технологии. Дипфейк может быть использован террористами для подрыва общественной безопасности и создания неопределенности и хаоса. Подобный случай произошел в 2019 году, когда на YouTube появилось видео с пьяной Нэнси Пелоси, спикером Палаты представителей США. «Также эта технология может использоваться в политических целях, так как можно подменить все, что угодно — голос, изображение, место. <…> Таким образом фактически нейтральная технология может быть использована для манипуляции общественным мнением и обмана отдельных личностей», — рассказал IT-специалист Илья Костунов «Газете.ру».
Еще одна проблема, связанная с дипфейками — «дивиденды лжеца»: нежелательная правда отвергается как дипфейк или поддельные новости. Лидеры могут использовать дипфейки в качестве оружия и использовать фальшивые новости и повествование с альтернативными фактами, чтобы игнорировать настоящие средства массовой информации и правду.
Как ограничивают дипфейки?
После того как в 2018 году Джордан Пил опубликовал дипфейковое видео c Бараком Обамой, Twitter и другие социальные сети ввели обязательную маркировку синтетических медиа. Это не повлияло на их популярность. Аккаунт Deep Tom Cruise набрал 3,3 миллиона подписчиков в TikTok. В нем все видео были с участием «фейкового» Тома Круза: пользователь снимал видео и заменял свое лицо на лицо известного актера.
В Китае уже есть закон, который запрещает использование дипфейков для замены лица и голоса. В документе говорится, что технология может навредить общественному порядку, ущемить права личности, распространить ложные новости или «проиллюстрировать сексуальную активность».
*запрещенная в РФ организация
