Zijn deepfakes gevaarlijk? Makers en regelgevers zijn het daar niet mee eens

De afgelopen jaren is deepfakes zijn uitgegroeid tot de nieuwste go-to van het internet voor memes en parodie-inhoud.

Het is gemakkelijk te begrijpen waarom: ze stellen makers in staat de regels van de werkelijkheid te buigen als geen enkele andere technologie ooit. Door de magie van deepfakes kun je kijken Jennifer Lawrence houdt een toespraak via het gezicht van Steve Buscemi, zie wat Ryan Reynolds zou eruit hebben gezien als Willy Wonkaen zelfs vangen Hitler en Stalin zingenVideo doodde de radioster in een duet.

Voor niet-ingewijden is deepfake-technologie een vorm van synthetische media waarmee gebruikers een ander gezicht over dat van iemand anders kunnen leggen op een manier die bijna niet van het origineel te onderscheiden is. Het doet dit door enorme hoeveelheden gegevens te lezen om de contouren en andere kenmerken van het gezicht te begrijpen en het op natuurlijke wijze in de scène te laten overvloeien en te animeren.

Op dit moment ben je dergelijke clips waarschijnlijk tegengekomen op platforms als TikTok (waar de hashtag ‘#deepfake’ ongeveer 200 miljoen views heeft), YouTube en elders. Of het nu gaat om het vervullen van fanfictie en scènes met sterren opnieuw uitvoeren ze zouden willen dat de film oorspronkelijk een dode persoon in een moderne, virale meme had gegoten of geplaatst, deepfakes zijn geadopteerd als een creatieve uitlaatklep voor doeleinden die voorheen vrijwel onmogelijk waren.

De verschuiving heeft een hele reeks nieuwe makers voortgebracht, zoals Ctrl Shift-gezicht, wiens deepfake-video's regelmatig miljoenen views trekken en vaak het belangrijkste gespreksonderwerp zijn in talkshows op de late avond.

“Het is een geheel nieuwe manier om grappige internetvideo’s te maken, of verhalen te vertellen zoals we nog nooit eerder hebben gezien”, zegt de in Nederland gevestigde maker achter de hit “De Wrekers van Oz'Deepfake clip die vroeg om zijn echte naam niet te gebruiken. “Het is een mooie combinatie van fascinatie voor A.I. technologie en humor.”

Maar er dreigt een risico dat de toekomst van deepfake-technologie volledig bedreigt: de aangetaste reputatie ervan.

Met grote kracht komt grote herpostbaarheid

Helaas hebben deepfakes, naast hun potentieel als creatief hulpmiddel voor goedbedoelende videokunstenaars, ook een enorm potentieel om schade aan te richten.

Een recent studie door het Dawes Center for Future Crime aan het UCL Jill Dando Institute of Security and Crime Science bestempeld als deepfakes als de ernstigste door AI mogelijk gemaakte dreiging. Sen. Ben Sasse, een Republikein uit Nebraska die een wetsvoorstel heeft ingediend om de kwaadaardige creatie van deepfakes strafbaar te stellen, gewaarschuwd vorig jaar dat de technologie ‘mensenlevens zou kunnen vernietigen’, ‘de financiële markten zou kunnen verwoesten’ en zelfs ‘militaire conflicten over de hele wereld zou kunnen aanwakkeren’.

Tot op zekere hoogte zijn deze zorgen terecht. De proliferatie van deepfake-technologie heeft immers al zaken mogelijk gemaakt als de productie van nepinhoud voor volwassenen met beroemdheden, en levensechte nabootsingen van politici voor satire. Eerder dit jaar zei Dan Scavino, directeur sociale media van het Witte Huis, getweet een slecht gemanipuleerd fragment, dat ook werd geretweet door president Donald Trump, van Trumps rivaal Joe Biden die mensen vraagt ​​Trump te herkiezen.

Deze weinig overtuigende hoaxes zijn echter snel ontkracht voordat ze de massa bereikten. Belangrijker nog is dat experts suggereren dat deepfake-video's tot nu toe weinig tot geen maatschappelijke impact hebben gehad en dat ze momenteel geen onmiddellijke bedreiging vormen. Uit onderzoek van bijvoorbeeld Gevoeligheid, een cyberbeveiligingsbedrijf dat zich richt op visuele bedreigingen, beweert dat de overgrote meerderheid van deepfake-video's dat wel is pornografisch (96%) en dat de technologie nog geen ingang heeft gevonden in enige vorm van desinformatie campagnes.

Op dezelfde manier kan een Rapport van de Universiteit van Georgetown concludeerden dat deepfakes weliswaar een “indrukwekkende technische prestatie” zijn, maar dat beleidsmakers er niet overhaast mee moeten beginnen de hype omdat de technologie op dit moment niet perfect is en de gebeurtenissen in de echte wereld niet zomaar kan beïnvloeden nog.

De maker achter het populairste deepfake-kanaal Ctrl Shift Face, waarvan de video’s door miljoenen worden bekeken, gelooft dat de ‘hysterie’ het cirkelen rond het deepfake-onderwerp leidt de aandacht van wetgevers af van de echte problemen, zoals de slecht gereguleerde reclame netwerken aan Facebook die feitelijk verantwoordelijk zijn voor het misleiden van mensen.

“Als er ooit een schadelijke deepfake zal zijn, dan is Facebook de plek waar deze zich zal verspreiden”, zei Ctrl Shift Face in een interview met Digital Trends. “Wat is in dat geval het grotere probleem? Het medium of het platform?”

De eigenaar van BabyZone, een YouTube-gamekanaal met meer dan een half miljoen abonnees dat beroemdheden vaak deepfakt in video games, weerspiegelt een soortgelijke zorg: “Ik denk dat deepfakes een technologie is zoals alle andere bestaande technologieën. Ze kunnen voor goede en voor slechte doeleinden worden gebruikt.”

De beweging om deepfakes te redden

De afgelopen twee jaar hebben overheden en technologiebedrijven de potentiële risico's hiervan onderzocht technologie hebben voorstanders van deepfake zich ingespannen om deze zorgen weg te nemen en het publiek van de technologie te verbeteren afbeelding. Reddit-gemeenschappen die proberen “dit stigma aan te passen” zijn opgedoken, en sommige onafhankelijke onderzoekers zijn actief bezig met het bouwen van systemen die deepfakes kunnen opsporen voordat ze viraal gaan.

Roman Mogylnyi, CEO en mede-oprichter van Reface, een populaire app waarmee je snel je gezicht in een GIF kunt veranderen, zegt dat zijn startup nu een detectietool ontwikkelt die kan zien of er een video is gemaakt met Reface's technologie. “Wij geloven dat brede toegang tot gesynthetiseerde media-instrumenten zoals de onze de empathie van de mensheid zal vergroten creativiteit, en zal helpen de perceptie van de technologie ten goede te veranderen”, vertelde Mogylnyi aan Digital Trends.

Eran Dagan, oprichter en CEO van Botika, de startup achter de populaire face-swapping-app Jiggy, heeft een vergelijkbare visie richting deepfakes en overtuigingen, naarmate deze meer mainstream worden, “zullen mensen zich veel bewuster zijn van het positieve gebruik ervan gevallen."

Gezien de potentiële gevaren van deepfakes is het echter waarschijnlijk dat het Congres uiteindelijk zal ingrijpen. Grote technologieplatforms waaronder Facebook, Twitter en YouTube hebben hun beleid al bijgewerkt om gemanipuleerde media die bedoeld zijn om te misleiden te markeren of te verwijderen. Meerdere staten zoals Californië en New York hebben wetsvoorstellen aangenomen die makers van opzettelijk misleidende deepfakes zullen straffen, evenals degenen die zijn vrijgegeven zonder toestemming van de persoon wiens gezicht wordt gebruikt.

Moeten deepfakes gereguleerd worden?

Hoewel dit beleid parodie-inhoud uitsluit, zijn experts, uit angst voor slecht gedefinieerde wetten of een volledig verbod op de technologie, Ik ben nog steeds van mening dat het Congres zich erbuiten moet houden en deepfakes de natuurlijke gang moet laten gaan die elke nieuwe vorm van media volgt door.

David Greene, directeur burgerlijke vrijheden bij de Electronic Frontier Foundation, zegt: “Elke poging van het Congres om dat te doen Het reguleren van deep fakes of eigenlijk elke vorm van visuele communicatie zal een regulering van de spraak zijn en de Eerste impliceren Wijziging.

Deze wetten, zo voegt Greene toe, moeten nauwkeurig zijn en moeten – in goed gedefinieerde en gemakkelijk te begrijpen termen – de schade aanpakken die ze proberen te beperken. “Wat we tot nu toe hebben gezien… regelgevingspogingen op staatsniveau zijn vage en te brede wetten die niet de nauwkeurigheid hebben die het Eerste Amendement vereist. Ze hebben geen uitzonderingen nodig voor parodie en politiek commentaar.”

Giorgio Patrini, CEO van Sensity, vindt een verbod op algoritmen en software ‘zinloos in het internettijdperk’. Patrini vergelijkt dit raadsel met malware bescherming en hoe het vrijwel onmogelijk is om een ​​einde te maken aan alle computervirussen of hun auteurs, dus het is beter om simpelweg te investeren in anti-malwaremechanismen in plaats van. “De samenleving moet nieuwe mechanismen bouwen om te certificeren wat kan worden vertrouwd, en hoe de negatieve gevolgen van synthetische inhoud voor individuen en organisaties kunnen worden voorkomen”, zei hij.

Tim Whang schreef in het rapport van Georgetown University dat met de commodificatie van deepfake-tools de technologie voor het detecteren en filteren van het zal automatisch evolueren en nauwkeuriger worden – waardoor hun vermogen om serieuze zaken te presenteren wordt geneutraliseerd gevaren.

Microsoft's onlangs gelanceerde deepfake-detectietoolanalyseert bijvoorbeeld de video's om u een betrouwbaarheidsscore te bieden die aangeeft hoe waarschijnlijk het is dat de video is aangepast.

“Deepfakes zijn een nieuwe vorm van mediamanipulatie, maar niet de eerste keer dat we met dit soort uitdagingen worden geconfronteerd. We onderzoeken en investeren in manieren om synthetische media aan te pakken”, aldus een YouTube-woordvoerder.

De onderzoekers achter CtrlShiftLab, een geavanceerde software voor het maken van deepfake die veel YouTubers, waaronder Ctrl Shift Face, gebruiken, zijn dat nu werkt ook aan open-sourceprojecten om het bewustzijn te vergroten en een uitgebreidere detectie op te bouwen Diensten.

“De enige manier om dit [deepfake-misbruik] te voorkomen is door een open source deepfake-gerelateerd project op te zetten en de aandacht van het publiek te trekken. Zodat publieke internetgebruikers zich kunnen realiseren dat deepfakes bestaan”, vertelde Kunlin Liu, een van de onderzoekers van het CtrlShiftLab, aan Digital Trends.

Verschillende deepfake-makers met wie Digital Trends sprak, blijven optimistisch en vinden het verzet van landen tegen deepfakes voorbarig. Ze zijn het erover eens dat de groeiende rol van deepfake in de memes- en parodiecultuur een grote rol zal spelen bij het herstellen van de slechte reputatie van deze opkomende technologie. En zolang video’s disclaimers hebben en platforms investeren in effectievere detectielagen, zo voegden ze eraan toe, zullen deepfakes blijven bestaan.

“Ik denk dat de reputatie van deepfakes aanzienlijk verbetert. Twee jaar geleden betekende het woord deepfake automatisch porno”, aldus de maker van Ctrl Shift Face. “Nu kennen de meeste mensen deepfakes vanwege de vermakelijke video’s die op internet circuleren.”

Aanbevelingen van de redactie

• Tech For Change CES 2023 Awards van Digital Trends
• In het hilarische Project Gucciberg leest een deepfaked Gucci Mane klassieke romans
• Hoe kunstenaars en activisten deepfakes gebruiken als een kracht ten goede
• Twitter wil deepfakes die ‘schade veroorzaken’ in de aanloop naar de verkiezingen van 2020 verbieden
• Californië treedt hard op tegen deepfakes voor politiek en porno