Слово «Deepfake», несомненно, представляет собой сочетание двух повседневных слов: «глубокий» и «фальшивый». Под глубиной здесь подразумевается задействованная технология искусственного интеллекта, известная как глубокое обучение. Технология Deepfake используется в синтетических медиа для создания фальсифицированного контента, замены или синтеза лиц, речи и манипулирования эмоциями. Он используется для цифровой имитации действия человека, которого он не совершал. Первые шаги к этой технологии были сделаны в 90-х годах академическими учреждениями, а затем были приняты более широкой аудиторией. Хотя создание программ deepfake не является общепринятой практикой, эта концепция, тем не менее, наделала много шума в медиа-пространстве. В следующем разделе мы объясним, как разрабатывается дипфейк-контент.
КАК РАБОТАЕТ DEEPFAKE?
Существует несколько методов создания программного обеспечения Deepfake с использованием алгоритмов машинного обучения. Проще говоря, это алгоритмы, которые могут генерировать контент на основе введенных данных. Если перед программой ставится задача создать новое лицо или заменить часть лица человека, ее сначала нужно обучить. В программу загружается огромное количество данных, которые она затем использует, чтобы научиться создавать свои собственные новые данные. В первую очередь они основаны на автоэнкодерах, а иногда и на генеративных состязательных сетях (GAN). Теперь давайте узнаем, что это за методы и как они работают.
================================
НАСКОЛЬКО ОПАСЕН ДИПФАЙК?
================================
Deepfake считается одним из самых опасных применений ИИ. Большинство его реальных приложений имеют либо дискредитирующие, либо мошеннические намерения. Один из первых случаев мошенничества с использованием дипфейка произошел в Великобритании. Мошенники позвонили генеральному директору британской энергетической компании и, подделав голос своего немецкого босса, приказали ему перевести 220 000 евро на счет стороннего банка.
Конечный результат дипфейка может быть неотличим от реальности. Это может подорвать репутацию человека или заставить кого-то сказать или сделать что-то ненужное. Это идеальное оружие в руках мошенников. Создание системы, распознающей дипфейки, требует времени. Эти программы тоже нужно тренировать.
============================================
КАК DEEPFAKE ВЛИЯЕТ НА НАШЕ ОБЩЕСТВО?
============================================
Попадание дипфейков в чужие руки может привести к хаосу и неопределенности. В 2018 году в WhatsApp было загружено видео, где двое мужчин на мотоцикле похитили ребенка в Индии. Выход ролика сопровождался массовой паникой среди населения, унесшей жизни нескольких человек. Наше общество построено на авторитете лидеров, звезд и влиятельных лиц. Дезинформация с их участием также может изменить настроение масс и побудить к действию. И подобные вещи уже имели место. Неоднократно в Интернете появлялись дипфейк-порно с участием знаменитостей. Этой темой занимались даже несколько президентов США. Фейковые новости с участием политических лидеров могут подорвать репутацию правящей власти страны и привести к потере доверия к ней.
=================================
ЯВЛЯЕТСЯ DEEPFAKE ЗАКОННЫМ ?
=================================
Поскольку дипфейк начал распространяться только в последние несколько лет, законы, касающиеся его применения, еще не догнали технологию. Во многих странах это вообще не регулируется. Одной из стран, где действует закон об использовании дипфейка, является Китай. Администрация киберпространства Китая объявила, что фейковые новости, созданные с помощью дипфейка, являются незаконными. В США почти во всех штатах есть законы, касающиеся дипфейк-порно.
Другой закон запрещает дипфейк-контент, затрагивающий кандидатов, баллотирующихся на государственные должности.
================================
КАК ИСПОЛЬЗУЮТСЯ ДИПФЕЙКИ?
================================
Распространение дипфейка началось с фейковых порно роликов. Многие знаменитости стали жертвами дипфейк-порно. Среди них были Дейзи Ридли, Дженнифер Лоуренс, Эмма Уотсон и Галь Гадот. Тема коснулась и женщин, связанных с лидерами разных стран, такими как Мишель Обама, Иванка Трамп и Кейт Миддлтон. В 2019 году было выпущено настольное приложение DeepNude. Он был способен снимать одежду с женщин. Некоторое время спустя его удалили, но вы все еще можете найти копии приложения, плавающие в киберпространстве.
Следующая группа людей, пострадавших от дипфейка, - это политики. Были видеоролики, на которых президент Обама оскорбляет президента Трампа. В другом видео речь Нэнси Пелоси была обработана так, чтобы зрители поверили, что она была пьяна. На другом видео президент Трамп издевается над Бельгией за ее членство в Парижском климатическом соглашении.
===================================
Следует отметить, что есть и случаи легального использования. Вы можете найти множество приложений для замены лиц на фотографиях и видео в App Store и Play Market. Бытует мнение, что за дипфейком будущее создания контента. Южнокорейский канал MBN вместо ведущего новостей использовал дипфейк.
=============================
КАК ОБНАРУЖИТЬ DEEPFAKE
=============================
Технологии распознавания дипфейков также основаны на искусственном интеллекте с использованием алгоритмов, аналогичных тем, которые используются для создания самих дипфейков. Они обнаруживают признаки, которых не было бы на реальных фото или видео. Вначале необычное моргание глаз или их полное отсутствие было хорошим признаком дипфейка. Но со временем системы научились имитировать моргание глаз. Знаки включают:
Нереальный цвет кожи или изменение тона кожи;
Резкие движения;
Плохая синхронизация речи с движением губ;
Лица или фигуры человека более размытые, чем фон;
Проблемы с освещением;
Дополнительные пиксели в кадре.
=================================
КАК МЫ БОРЕМСЯ С DEEPFAKE СЕГОДНЯ?
Несколько ведущих технологических компаний уже разрабатывают собственные решения для защиты от дипфейков. Microsoft и Google предоставляют наборы данных, с помощью которых разработчики могут обучать свои системы обнаружению дипфейков. Facebook в партнерстве с Microsoft, Amazon Web Services и ведущими университетами мира объявил конкурс Deepfake Detection Challenge для разработки решений для обнаружения глубоких подделок видео. Приз победителю конкурса составил 500 000 долларов. Материалы для работы, в которой участвовало около 3500 актеров, были открыты, чтобы другие исследователи могли их использовать. В рамках проекта MediFor DARPA подписало контракты с SRI International, направленные на создание программ, которые смогут находить измененные фото и видео. Sensiti предлагает собственное решение для компаний, которые хотят защитить себя от технологий deepfake. Operation Minerva - это система, которая находит deepfake порно на популярных порносайтах и отправляет уведомление об удалении контента.