Czy Deepfakes są niebezpieczne? Twórcy i organy regulacyjne nie zgadzają się

Przez ostatnich kilka lat, głębokie podróbki stały się najnowszym źródłem memów i parodii w Internecie.

Łatwo zrozumieć dlaczego: umożliwiają twórcom naginanie zasad rzeczywistości jak żadna inna technologia wcześniej. Dzięki magii deepfakes możesz oglądać Jennifer Lawrence wygłasza przemówienie w twarz Steve’a Buscemiego, Zobacz co Ryan Reynolds wyglądałby jak Willy Wonka, a nawet złapać Hitler i Stalin śpiewająWideo zabiło gwiazdę radia w duecie.

Dla niewtajemniczonych technologia deepfake to forma syntetycznego nośnika, która pozwala użytkownikom nałożyć inną twarz na twarz innej osoby w sposób prawie nie do odróżnienia od oryginału. Czyni to poprzez odczytywanie stosów danych w celu zrozumienia konturów twarzy i innych cech, aby w naturalny sposób wtopić się w scenę i animować ją.

W tym momencie prawdopodobnie natknąłeś się na takie klipy na platformach takich jak TikTok (gdzie hashtag „#deepfake” ma około 200 milionów wyświetleń), YouTube i gdzie indziej. Niezależnie od tego, czy ma to na celu spełnienie fikcji fanów i przerób sceny z gwiazdami chcieliby, aby film pierwotnie obsadził lub umieścił zmarłą osobę w nowoczesnym, wirusowym memie, deepfake zostały przyjęte jako kreatywne narzędzie do celów, które wcześniej były prawie niemożliwe.

Ta zmiana dała początek lidze nowych twórców, takich jak Ctrl Przesuń twarz, którego filmy typu deepfake regularnie przyciągają miliony wyświetleń i często są głównym tematem dyskusji w wieczornych talk show.

„To zupełnie nowy sposób tworzenia zabawnych filmów internetowych lub opowiadania historii, jakich nigdy wcześniej nie widzieliśmy” – mówi holenderski twórca hitu „Avengersi z krainy Oz” deepfake klip, który poprosił, aby nie używać jego prawdziwego imienia. „To piękne połączenie fascynacji sztuczną inteligencją. technologii i humoru.”

Istnieje jednak ryzyko, które całkowicie zagraża przyszłości technologii deepfake: jej skażona reputacja.

Z wielką mocą wiąże się doskonała repostowalność

Niestety, oprócz tego, że są narzędziem kreatywnym dla artystów wideo mających dobre intencje, deepfakes niosą ze sobą także ogromny potencjał wyrządzania szkody.

Niedawne badanie przeprowadzone przez Dawes Center for Future Crime w Instytucie Bezpieczeństwa i Nauk o Przestępczości Jill Dando UCL oznaczone jako deepfake jako najpoważniejsze zagrożenie wykorzystujące sztuczną inteligencję. Sen. Ben Sasse, republikanin z Nebraski, który przedstawił projekt ustawy kryminalizujący złośliwe tworzenie deepfakes, ostrzeżony w zeszłym roku, że technologia ta może „zniszczyć życie ludzkie”, „zaburzyć rynki finansowe”, a nawet „pobudzić konflikty zbrojne na całym świecie”.

Do pewnego stopnia obawy te są słuszne. W końcu rozprzestrzenianie się technologii deepfake umożliwiło już tworzenie fałszywych treści dla dorosłych z udziałem celebrytów i realistyczne podszywanie się pod polityków w celach satyrycznych. Na początku tego roku Dan Scavino, dyrektor ds. mediów społecznościowych Białego Domu, tweetował źle zmanipulowany klip, który również przesłał dalej prezydent Donald Trump, przedstawiający rywala Trumpa Joe Bidena proszącego ludzi o reelekcję Trumpa.

Jednak te niezbyt przekonujące oszustwa zostały szybko obalone, zanim dotarły do ​​mas. Co ważniejsze, eksperci sugerują, że fałszywe filmy wideo miały jak dotąd niewielki lub żaden wpływ społeczny i że obecnie nie stanowią żadnego bezpośredniego zagrożenia. Na przykład badania przeprowadzone przez Wrażliwość, firma zajmująca się bezpieczeństwem cybernetycznym skupiająca się na zagrożeniach wizualnych, twierdzi, że zdecydowana większość filmów typu deepfake to filmy pornograficzne (96 %) i że technologia ta nie znalazła jeszcze zastosowania w żadnej znaczącej dezinformacji kampanie.

Podobnie A Raport Uniwersytetu Georgetown doszedł do wniosku, że chociaż deepfakes są „imponującym wyczynem technicznym”, decydenci nie powinni się spieszyć szumu, ponieważ technologia nie jest obecnie doskonała i nie może po prostu wpływać na wydarzenia w świecie rzeczywistym już.

Twórca najpopularniejszego kanału deepfake Ctrl Shift Face, którego filmy oglądają miliony, wierzy w „histerię” krążenie wokół tematu deepfake’ów odwraca uwagę prawodawców od rzeczywistych problemów, takich jak słabo uregulowana reklama sieci włączone Facebook które w rzeczywistości są odpowiedzialne za wprowadzanie ludzi w błąd.

„Jeśli kiedykolwiek pojawi się szkodliwy deepfake, Facebook będzie miejscem, w którym się on rozprzestrzeni” – powiedział Ctrl Shift Face w wywiadzie dla Digital Trends. „W takim razie co jest większym problemem? Medium czy platforma?”

Właściciel BabyZone, kanał YouTube o grach, mający ponad pół miliona subskrybentów i często wrabiający gwiazdy w filmy Games, wyraża podobną obawę: „Uważam, że deepfake to technologia taka sama jak wszystkie inne technologie. Można je wykorzystać do dobrych i złych celów.”

Ruch na rzecz ratowania deepfakes

W ciągu ostatniego roku lub dwóch, gdy rządy i firmy technologiczne badają potencjalne ryzyko z tym związane technologii, zwolennicy deepfake'ów starali się rozwiać te obawy i naprawić opinię publiczną związaną z tą technologią obraz. Społeczności Reddita pojawiły się programy mające na celu „skorygowanie tego piętna”, a niektórzy niezależni badacze aktywnie tworzą systemy, które potrafią wykryć deepfake, zanim staną się wirusowe.

Roman Mogylnyi, dyrektor generalny i współzałożyciel Reface, popularnej aplikacji, która pozwala szybko zamienić twarz w dowolny GIF, mówi, że jego startup opracowuje obecnie narzędzie do wykrywania, które może stwierdzić, czy film został nagrany za pomocą Reface technologia. „Wierzymy, że szeroki dostęp do syntetycznych narzędzi medialnych, takich jak nasze, zwiększy empatię ludzkości i kreatywności i pomoże zmienić na lepsze postrzeganie technologii” – Mogylnyi powiedział Digital Trendy.

Eran Dagan, założyciel i dyrektor generalny Botika, startupu stojącego za popularną aplikacją do zamiany twarzy Jiggy, ma podobne zdanie w kierunku deepfakes i wierzy, że gdy staną się one bardziej mainstreamowe, „ludzie będą znacznie bardziej świadomi ich pozytywnego wykorzystania sprawy."

Biorąc jednak pod uwagę potencjalne niebezpieczeństwa związane z deepfakes, prawdopodobne jest, że Kongres w końcu wkroczy. Główne platformy technologiczne w tym Facebook, Twitter i YouTube zaktualizowały już swoje zasady, aby oznaczać lub usuwać zmanipulowane media, które mają wprowadzać w błąd. Wiele stanów, np Kalifornia i Nowy Jork przyjęły ustawy, które będą karać twórców celowo zwodniczych deepfake’ów, a także tych publikowanych bez zgody osoby, której twarz została wykorzystana.

Czy deepfakes powinny być regulowane?

Choć zasady te wykluczają treści parodyjne, eksperci w obawie przed źle zdefiniowanymi przepisami lub całkowitym zakazem danej technologii nadal uważam, że Kongres powinien trzymać się od tego z daleka i pozwolić, aby deepfakes toczyły się naturalnym torem, jakim podąża każda nowa forma mediów Poprzez.

David Greene, dyrektor ds. wolności obywatelskich w Electronic Frontier Foundation, mówi, że „jakakolwiek próba Kongresu… regulować głębokie podróbki lub naprawdę każdy rodzaj komunikacji wizualnej będzie regulacją mowy i implikuje Pierwszą Poprawka.

Przepisy te, dodaje Greene, muszą być precyzyjne i muszą – w dobrze zdefiniowanych i łatwych do zrozumienia terminach – odnosić się do szkód, które próbują ograniczyć. „To, co widzieliśmy do tej pory… próby regulacyjne na poziomie stanowym to niejasne i zbyt szerokie przepisy, które nie zapewniają precyzji wymaganej przez Pierwszą Poprawkę. Nie mają wymaganych wyjątków w przypadku parodii i komentarzy politycznych”.

Giorgio Patrini, dyrektor generalny Sensity, uważa zakaz stosowania algorytmów i oprogramowania „bez znaczenia w erze Internetu”. Patrini porównuje tę zagadkę ze złośliwym oprogramowaniem ochrony i jak prawie niemożliwe jest położenie kresu wszystkim wirusom komputerowym lub ich autorom, dlatego lepiej po prostu zainwestować w mechanizmy chroniące przed złośliwym oprogramowaniem Zamiast. „Społeczeństwo musi zbudować nowe mechanizmy certyfikacji, czemu można ufać i jak zapobiegać negatywnemu wpływowi treści syntetycznych na osoby i organizacje” – stwierdził.

Tim Whang napisał w raporcie Uniwersytetu Georgetown, że wraz z utowarowieniem narzędzi deepfake, technologia wykrywania i filtrowania automatycznie będzie ewoluować i staje się dokładniejsze — neutralizując w ten sposób ich zdolność do przedstawiania jakichkolwiek poważnych treści zagrożenia.

Niedawno uruchomione przez Microsoft narzędzie do wykrywania deepfake’ówna przykład analizuje filmy, aby określić poziom pewności, który wskazuje, jak prawdopodobne jest, że film został zmodyfikowany.

„Deepfakes to nowa forma manipulacji mediami, ale nie pierwszy raz spotykamy się z tego typu wyzwaniem. Badamy i inwestujemy w sposoby wykorzystania mediów syntetycznych” – powiedział rzecznik YouTube.

Naukowcy za CtrlShiftLab, zaawansowane oprogramowanie do tworzenia deepfake'ów, z którego korzysta obecnie wielu YouTuberów, w tym Ctrl Shift Face pracuje także nad projektami typu open source, aby podnosić świadomość i tworzyć bardziej kompleksowe metody wykrywania usługi.

„Jedynym sposobem, aby temu zapobiec [nadużyciom związanym z deepfake], jest utworzenie projektu open source związanego z deepfake i przyciągnięcie uwagi opinii publicznej. Dzięki temu internauci mogą zdać sobie sprawę, że istnieją deepfake” – powiedział Digital Trends Kunlin Liu, jeden z badaczy CtrlShiftLab.

Kilku twórców deepfake’ów, z którymi rozmawiało Digital Trends, zachowało optymizm i uznało, że sprzeciw krajów wobec deepfake’ów jest przedwczesny. Zgadzają się, że rosnąca rola deepfake w kulturze memów i parodii odegra kluczową rolę w naprawieniu kiepskiej reputacji tej wschodzącej technologii. Dopóki w filmach będą znajdować się zastrzeżenia, a platformy będą inwestować w skuteczniejsze warstwy wykrywania – dodali – deepfakes będą nadal istnieć.

„Myślę, że reputacja deepfakes znacznie się poprawia. Dwa lata temu słowo deepfake automatycznie oznaczało porno” – powiedział twórca Ctrl Shift Face. „Teraz większość ludzi zna deepfake dzięki tym zabawnym filmom krążącym po Internecie”.

Zalecenia redaktorów

• Nagrody Digital Trends „Tech For Change” na targach CES 2023
• W zabawnym Projekcie Gucciberg głęboko sfałszowany Gucci Mane czyta klasyczne powieści
• Jak artyści i aktywiści wykorzystują deepfakes jako siłę ku dobremu
• Twitter wprowadza zakaz deepfake’ów, które „szkodzą” przed wyborami w 2020 roku
• Kalifornia rozprawia się z deepfakesami dotyczącymi polityki i porno