Опасны ли дипфейки? Создатели и регулирующие органы не согласны

За последние несколько лет, дипфейки стали последним источником мемов и пародийного контента в Интернете.

Легко понять, почему: они позволяют создателям нарушать правила реальности, как никакая другая технология раньше. Благодаря магии дипфейков вы можете наблюдать Дженнифер Лоуренс произнесла речь от лица Стива Бушеми, Смотри что Райан Рейнольдс выглядел бы как Вилли Вонкаи даже поймать Гитлер и Сталин поютВидео убило звезду радио в дуэте.

Для непосвященных технология дипфейка — это форма синтетического медиа, которая позволяет пользователям накладывать другое лицо на чужое таким образом, что это практически неотличимо от оригинала. Он делает это, считывая кучу данных, чтобы понять контуры лица и другие характеристики, чтобы естественным образом смешать и анимировать его в сцене.

На данный момент вы, вероятно, встречали подобные клипы на таких платформах, как TikTok (где хэштег «#deepfake» имеет около 200 миллионов просмотров), YouTube и других местах. Будь то исполнение фанфиков и переделать сцены со звездами они хотели бы, чтобы фильм изначально включил или поместил мертвого человека в современный вирусный мем, дипфейки были приняты в качестве творческого выхода для целей, которые раньше были практически невозможны.

Этот сдвиг породил лигу новых творцов, таких как Ctrl Сдвиг грани, чьи дипфейковые видео регулярно собирают миллионы просмотров и часто становятся главной темой обсуждения в ночных ток-шоу.

«Это совершенно новый способ создавать забавные интернет-видео или рассказывать истории, которых мы никогда раньше не видели», — говорит автор хита из Нидерландов.Мстители из страны Оз» дипфейковый клип, который попросил не называть его настоящее имя. «Это прекрасное сочетание очарования ИИ. технологии и юмор».

Но существует надвигающийся риск, который вообще угрожает будущему технологии дипфейков: ее испорченная репутация.

С большой силой приходит отличная репостабельность

К сожалению, помимо своего потенциала в качестве творческого инструмента для видеохудожников с благими намерениями, дипфейки также несут в себе огромный потенциал причинения вреда.

Недавний исследование Центра Дауэса по изучению будущих преступлений при Университетском колледже Лондона (UCL), Института безопасности и криминологии имени Джилл Дандо назвал дипфейки самой серьезной угрозой, связанной с искусственным интеллектом. Сен. Бен Сасс, республиканец из Небраски, внесший законопроект о криминализации злонамеренного создания дипфейков, предупредил В прошлом году эта технология может «разрушить человеческие жизни», «взбудоражить финансовые рынки» и даже «стимулировать военные конфликты по всему миру».

В какой-то степени эти опасения справедливы. В конце концов, распространение технологии дипфейков уже позволило создавать фейковый контент для взрослых с участием знаменитостей и реалистичное пародирование политиков для сатиры. Ранее в этом году Дэн Скавино, директор по социальным сетям Белого дома, написал в Твиттере плохо манипулируемый клип, который также ретвитнул президент Дональд Трамп, где соперник Трампа Джо Байден просит людей переизбрать Трампа.

Однако эти не слишком убедительные мистификации были быстро развенчаны, прежде чем дошли до масс. Что еще более важно, эксперты предполагают, что дипфейковые видео до сих пор практически не имели социального воздействия и что в настоящее время они не представляют какой-либо непосредственной угрозы. Например, исследование, проведенное Чувствительность, фирма по кибербезопасности, специализирующаяся на визуальных угрозах, утверждает, что подавляющее большинство дипфейковых видео являются порнографические (96%) и что эта технология еще не нашла своего применения в какой-либо существенной дезинформации. кампании.

Аналогично, Отчет Джорджтаунского университета пришли к выводу, что, хотя дипфейки являются «впечатляющим техническим достижением», политикам не следует спешить с шумиха, поскольку технология на данный момент не идеальна и не может влиять на реальные события просто еще.

Создатель самого популярного дипфейк-канала Ctrl Shift Face, видео которого смотрят миллионы, считает «истерией» кружение вокруг темы дипфейков отвлекает внимание законодателей от реальных проблем, таких как плохо регулируемая реклама. сети включены Фейсбук которые на самом деле несут ответственность за введение людей в заблуждение.

«Если когда-нибудь и появится вредный дипфейк, то Facebook — это то место, где он распространится», — сказал Ctrl Shift Face в интервью Digital Trends. «В таком случае, что является большей проблемой? Среда или платформа?»

Владелец BabyZone, игровой канал YouTube с более чем полумиллионом подписчиков, который часто превращает знаменитостей в видео. игры, высказывает аналогичную озабоченность: «Я думаю, что дипфейки — это такая же технология, как и все другие существующие технологии. Их можно использовать как во благо, так и во зло».

Движение за спасение дипфейков

За последние год или два, пока правительства и технологические компании исследовали потенциальные риски этого технологии, сторонники дипфейков изо всех сил пытались развеять эти опасения и исправить общественную ситуацию с технологией. изображение. Сообщества Реддит Появились программы, стремящиеся «скорректировать эту стигму», и некоторые независимые исследователи активно создают системы, которые могут обнаружить дипфейки до того, как они станут вирусными.

Роман Могильный, генеральный директор и соучредитель Reface, популярного приложения, позволяющего быстро заменить свое лицо на любой GIF-файл, говорит, что его стартап сейчас разрабатывает инструмент обнаружения, который может определить, было ли видео сделано с помощью Reface технологии. «Мы считаем, что широкий доступ к синтезированным медиа-инструментам, таким как наш, повысит сочувствие человечества и creativit и поможет изменить восприятие технологии к лучшему», — сказал Могильный в интервью Digital. Тенденции.

Эран Даган, основатель и генеральный директор Botika, стартапа, стоящего за популярным приложением для обмена лицами Jiggy, придерживается аналогичного взгляда. к дипфейкам и считает, что по мере того, как они становятся все более популярными, «люди будут гораздо лучше осознавать их позитивное использование». случаи."

Однако, учитывая потенциальную опасность дипфейков, вполне вероятно, что Конгресс в конечном итоге вмешается. Основные технологические платформы включая Facebook, Twitter и YouTube, уже обновили свою политику, чтобы отмечать или удалять манипулируемые медиа, которые призваны ввести в заблуждение. Несколько состояний, таких как Калифорния и Нью-Йорк приняли законы, которые будут наказывать создателей преднамеренно вводящих в заблуждение дипфейков, а также тех, которые публикуются без согласия человека, чье лицо используется.

Следует ли регулировать дипфейки?

Хотя эта политика исключает пародийный контент, эксперты, опасаясь нечетких законов или полного запрета технологии, по-прежнему считаю, что Конгрессу следует держаться в стороне и позволить дипфейкам идти естественным путем, как и любая новая форма СМИ. через.

Дэвид Грин, директор по гражданским свободам Electronic Frontier Foundation, говорит, что «любая попытка Конгресса регулировать глубокие фейки или действительно любой вид визуальной коммуникации будет регулированием речи и подразумевать Первый Поправка.

Эти законы, добавляет Грин, должны быть точными и должны – в четко определенных и понятных терминах – устранять вред, который они пытаются сократить. «То, что мы видели до сих пор… попытки регулирования на уровне штатов представляют собой расплывчатые и чрезмерно широкие законы, которые не обладают той точностью, которую требует Первая поправка. У них нет обязательных исключений для пародий и политических комментариев».

Джорджио Патрини, генеральный директор Sensity, считает запрет на алгоритмы и программное обеспечение «бессмысленным в эпоху Интернета». Патрини сравнивает эту загадку с вредоносным ПО защита и то, что почти невозможно положить конец всем компьютерным вирусам или их авторам, поэтому лучше просто инвестировать в механизмы защиты от вредоносных программ. вместо. «Обществу необходимо создать новые механизмы сертификации того, чему можно доверять, и способов предотвращения негативного воздействия синтетического контента на отдельных лиц и организации», — сказал он.

Тим Ванг написал в отчете Джорджтаунского университета, что с коммерциализацией инструментов дипфейков появилась технология обнаружения и фильтрации это автоматически будет развиваться и становиться более точным, тем самым нейтрализуя их способность представлять какие-либо серьезные угрозы.

Недавно Microsoft выпустила инструмент обнаружения дипфейковНапример, анализирует видео, чтобы предложить вам оценку достоверности, которая показывает, насколько вероятно, что видео было изменено.

«Дипфейки — это новая форма манипуляции СМИ, но мы не первый раз сталкиваемся с подобной проблемой. Мы изучаем и инвестируем в способы решения проблемы синтетических медиа», — заявил представитель YouTube.

Исследователи, стоящие за CtrlShiftLab, передовое программное обеспечение для создания дипфейков, которое используют многие пользователи YouTube, включая Ctrl Shift Face, теперь также работает над проектами с открытым исходным кодом для повышения осведомленности и создания более комплексного обнаружения. услуги.

«Единственный способ предотвратить это [злоупотребление дипфейками] — это создать проект, связанный с дипфейками, с открытым исходным кодом и привлечь внимание общественности. Таким образом, пользователи сети могут осознать, что дипфейки существуют», — сказал Digital Trends Куньлинь Лю, один из исследователей CtrlShiftLab.

Несколько создателей дипфейков Digital Trends призвали сохранять оптимизм и считают борьбу стран с дипфейками преждевременной. Они согласны с тем, что растущая роль дипфейков в мемах и культуре пародий будет способствовать исправлению плохой репутации этой новой технологии. И пока в видео есть оговорки об отказе от ответственности, а платформы инвестируют в более эффективные уровни обнаружения, добавили они, дипфейки никуда не денутся.

«Я думаю, что репутация дипфейков значительно улучшается. Два года назад слово «дипфейк» автоматически означало порно», — сказал создатель Ctrl Shift Face. «Теперь большинство людей знают о дипфейках благодаря этим развлекательным видеороликам, циркулирующим в Интернете».

Рекомендации редакции

• Награды Digital Trends Tech For Change CES 2023
• В веселом проекте «Проект Гуччиберг» фальшивый Гуччи Мане читает классические романы.
• Как художники и активисты используют дипфейки как силу добра
• Twitter предлагает запретить дипфейки, которые «приносят вред» перед выборами 2020 года
• Калифорния борется с дипфейками, связанными с политикой и порнографией