Waarom deepfakes binnenkort net zo gebruikelijk zullen zijn als Photoshop

Wist je dat je vanuit je luie stoel of vanaf je telefoon een deepfake-video kunt maken? Download een van de vele face-swap- of deepfake-apps die terloops verkrijgbaar zijn in uw lokale app store, en u ook een verkiezing kan beïnvloeden.

Oké, niet echt, en dat onderschrijven wij absoluut niet. Maar in de hype en bezorgdheid eromheen diep nep technologie, en het zeer reële misbruik ervan, is de simpele waarheid dat deze technologie niet zal verdwijnen. Sterker nog, het gaat net zo gewoon worden als Photoshop, vooral als de app-ontwikkelaars eraan werken deepfake tech heeft er iets over te zeggen: we zouden binnenkort hypergerichte advertenties kunnen zien met ons eigen gezicht erop hen.

Roman Mogylnyi, de CEO van RefaceAI, een startup gevestigd in Oekraïne, zei dat ze sinds 2011 met machine learning werken en in 2014 hun eigen apps op basis van deepfake-technologie hebben gemaakt. RefaceAI heeft al een photo-deepfake-app uitgebracht met de naam Reflect, en staat op het punt om zowel hun eigen video-deepfake-app uit te brengen als een webservice die deepfake-video's helpt detecteren.

“We zagen vanaf het allereerste begin dat deze technologie werd misbruikt”, zei Mogylnyi. “We dachten dat het beter kon.”

RefaceAI heeft al met een aantal filmproductiebedrijven samengewerkt – hoewel Mogylnyi niet kon zeggen welke – om zijn technologie te gebruiken om de gezichten van acteurs op body doubles, tegen een veel lagere prijs dan wat het zou zijn geweest om de acteurs terug te vliegen om de scènes in te stellen en opnieuw op te nemen vraag. Dit, zei Mogylnyi, is wat het bedrijf ziet als de toekomst van deepfakes. “We willen het gebruiken voor marketing, voor het personaliseren van advertenties, voor gifs, voor entertainmentmateriaal in het algemeen”, zei hij.

De toekomst van media

RefaceAI is niet het bedrijf dat deze onvermijdelijke marketingcurve probeert voor te zijn. Carica, een app uit Zuid-Korea, ontwikkelt ook deepfake GIF's en video's waarin iemand zijn gezicht kan enten op een populaire reactie-GIF om naar vrienden en familie te sturen. De app beschikt al over pop-upadvertenties waarin het gezicht van de gebruiker in de foto of video van de advertentie wordt verwerkt.

“We willen dat ons bedrijf een mediabedrijf wordt”, vertelde Carica-ingenieur Joseph Jang aan Digital Trends. Deepfakes zijn precies de manier waarop ze beginnen. “Ik denk dat mediabedrijven deze functie zullen gaan adopteren. Het wordt een optie die je hebt, net als een filter. Het zal zo normaal worden voor mensen.”

Zowel Jang als Mogylnyi gebruikten de proliferatie van Photoshop als model voor waar ze Deepfakes naartoe zien gaan: zo gewoon dat het onopvallend is, maar toch een beetje controversieel. En voor hen beiden zijn de politieke en ethische problemen die in deepfakes zijn verwikkeld eigenlijk gewoonweg de gewone gang van zaken.

Shamir Allibhai, de CEO van het deepfake-detectieplatform Amber Video, vertelde Digital Trends dat zijn overheersende mening was dat deepfake-technologie, net als de meeste andere soorten technologie, amoreel is.

“Het zou hetzelfde zijn als zeggen dat Microsoft Word immoreel is, slecht omdat potentiële terroristen het daarvoor zullen gebruiken een gewelddadige, extremistische ideologie omarmen, wat anderen zal inspireren om een ​​gewelddadige extremistische ideologie te omarmen”, zegt hij gezegd. “Ik zie deze technologie heel erg in dezelfde geest.”

Amber Video is een platform dat reclame maakt voor zijn diensten ter bestrijding van deepfakes om “fraude, reputatieverlies en wantrouwen van belanghebbenden te voorkomen.” Allibhai zei dat hij niet wist of hij bereid was iets te kopen alleen omdat zijn gezicht erop stond, maar hij was het er wel mee eens dat de technologie uiteindelijk doordringend.

“Het is een spiegel voor de samenleving”, zegt hij. “Je ziet dit in technologieën zoals het Twitter-platform. Je ziet het beste van de mensheid en het slechtste van ons. Deepfake-technologie zal ook een weerspiegeling zijn van de samenleving. Er zijn mensen die het zullen gebruiken voor luchthartige satire en de draak steken met autoritaire regimes. Maar we zullen ook proberen chaos te creëren.”

Bewapening van deepfakes

De grootste angst blijft het potentiële misbruik en de bewapening van deepfakes. Naarmate ze vaker voorkomen, kunnen we ze zelfs niet alleen zien inzetten voor grootschalige desinformatiecampagnes, maar ook voor praktische grappen of pesterijen op de middelbare school. Als de technologie toegankelijk genoeg is, kan iedereen er gebruik van maken.

Zowel Carica als RefaceAI zeiden dat ze stappen ondernemen om potentieel misbruik te beperken – RefaceAI met zijn webservice voor deepfake-detectie, en Carica met contentmoderators. Het hele Carica-bedrijf bestaat momenteel uit slechts negen mensen, zei Jang, en zij ruilen de taken op het gebied van inhoudsmatiging in.

“Dit was eigenlijk de eerste vraag die we onszelf stelden”, zegt Mogylnyi van RefaceAI. “We hebben hier al jaren mee te maken in termen van politieke schandalen in Oekraïne. We begrijpen dat onze technologie kan worden misbruikt. Zelfs Photoshop kan en wordt gebruikt voor pesten. Maar aan de andere kant bieden wij er een tegengif voor. We hebben wel gebruikers seksuele inhoud naar onze app laten uploaden, en die gebruikers hebben we meteen verboden.”

Carica is een app die klein genoeg is, waarmee ze voorlopig moeten werken. Maar over het algemeen maakte Jang zich geen zorgen.

“Dit gebeurt met alle nieuwe technologie,” zei Jang. “Eerst wordt het veroorzaakt door misbruik, maar na die fase wordt het voor iedereen beschikbaar en gebruiken mensen het voor normale dingen.”

Aanbevelingen van de redactie

• Beveiligingsrobots kunnen naar een school bij u in de buurt komen
• Amazon zet AI in om productrecensies samen te vatten
• Amazon plant ‘eenmalige’ veranderingen voor Search, blijkt uit vacatureadvertenties
• Nvidia's Jetson Orin Nano-minicomputer van $ 200 is 80 keer sneller dan de vorige versie
• Google Smart Canvas krijgt een diepere integratie tussen apps