Hvorfor Deepfakes snart bliver lige så almindeligt som Photoshop

Vidste du, at du kan lave en deepfake-video fra dit eget hjem eller på din telefon? Download en af ​​de mange face-swap- eller deepfake-apps, der er tilfældigt tilgængelige fra din lokale app-butik, og du også kan påvirke et valg.

Okay, egentlig ikke, og det støtter vi bestemt ikke. Men i hypen og bekymringen omkring deepfake teknologi, og dens meget reelle misbrug, er den simple sandhed, at denne teknologi ikke forsvinder. Faktisk vil det blive lige så almindeligt som Photoshop, især hvis app-udviklerne arbejder på deepfake tech har noget at sige om det: Vi kunne snart se hypermålrettede annoncer med vores egne ansigter på dem.

Roman Mogylnyi, administrerende direktør for RefaceAI, en startup baseret i Ukraine, sagde, at de har arbejdet med maskinlæring siden 2011, og gik i gang med at lave deres egne apps baseret på deepfake-teknologi i 2014. RefaceAI har allerede udgivet en foto-deepfake-app kaldet Reflect, og er på nippet til at frigive både deres egen video-deepfake-app, samt en webservice, der vil hjælpe med at opdage deepfake-videoer.

"Vi så lige fra begyndelsen, at denne teknologi blev misbrugt," sagde Mogylnyi. "Vi troede, vi kunne gøre det bedre."

RefaceAI har allerede arbejdet med nogle filmproduktionsselskaber - selvom Mogylnyi ikke kunne sige hvilke - for at bruge sin teknologi til at bytte ansigter af skuespillere på kropsdobler, til en pris langt mindre end hvad det ville have været at flyve skuespillerne tilbage for at sætte og genoptage scenerne i spørgsmål. Dette, sagde Mogylnyi, er, hvad virksomheden ser som fremtiden for deepfakes. "Vi ønsker at bruge det til markedsføring, til personalisering af annoncer, til gifs, til underholdningsmaterialer generelt," sagde han.

Mediernes fremtid

RefaceAI er ikke den virksomhed, der forsøger at komme foran denne uundgåelige marketingkurve. Carica, en app baseret fra Sydkorea, udvikler også deepfake GIF'er og videoer, hvor en person kan pode sit ansigt ind på en populær reaktions-GIF for at sende til venner og familie. Appen indeholder allerede pop-up-reklamer, der inkorporerer brugerens ansigt i annoncens foto eller video.

"Vi ønsker, at vores virksomhed bliver en medievirksomhed," sagde Carica-ingeniør Joseph Jang til Digital Trends. Deepfakes er bare den måde, de starter på. "Jeg tror, ​​at medievirksomheder vil begynde at tage denne funktion i brug. Det bliver en mulighed, du har, ligesom en filter. Det bliver bare så normalt for folk.”

Både Jang og Mogylnyi brugte udbredelsen af ​​Photoshop som model for, hvor de ser Deepfakes gå: Så almindeligt at det er umærkeligt, hvis det stadig er en smule kontroversielt. Og for dem begge er de politiske og etiske problemer, der er pakket ind i deepfakes, egentlig bare kørende.

Shamir Allibhai, administrerende direktør for deepfake-detektionsplatformen Amber Video, fortalte Digital Trends, at hans altoverskyggende opfattelse var, at deepfake-teknologi, ligesom de fleste andre former for teknologi, er amoralsk.

"Det ville være som at sige, at Microsoft Word er umoralsk, er ondt, fordi potentielle terrorister vil bruge det til går ind for voldelig, ekstremistisk ideologi, som vil inspirere andre til at gå ind for voldelig ekstremistisk ideologi,” han sagde. "Jeg ser i høj grad denne teknologi på samme måde."

Amber Video er en platform, der reklamerer for sine tjenester som bekæmpelse af deepfakes for at "forhindre svindel, tab af omdømme og mistillid til interessenter." Allibhai sagde, at han ikke vidste, om han var klar til at købe noget, bare fordi hans ansigt var på det, men han var enig i, at teknologien til sidst vil være gennemtrængende.

"Det er et spejl på samfundet," sagde han. "Det ser man i teknologier som Twitter-platformen. Du ser det bedste af menneskeheden og det værste af os. Deepfake-teknologi vil også afspejle samfundet. Der er folk, der vil bruge det til lethjertet satire og lave sjov med autoritære regimer. Men vi vil også forsøge at sy kaos.”

Bevæbning af deepfakes

Den største frygt er fortsat det potentielle misbrug og bevæbningen af ​​deepfakes. Efterhånden som de bliver mere almindelige, kunne vi endda se dem udstationeret ikke kun til omfattende desinformationskampagner, men til praktiske vittigheder eller mobning på gymnasiet. Hvis teknologien er tilgængelig nok, kan alle bruge den.

Både Carica og RefaceAI sagde, at de tager skridt til at afbøde potentielt misbrug - RefaceAI med sin deepfake-detektionswebservice og Carica med indholdsmoderatorer. Hele Carica-virksomheden er kun ni personer lige nu, sagde Jang, og de afvejer pligter til at moderere indholdet.

"Dette var virkelig det første spørgsmål, vi stillede os selv," sagde RefaceAIs Mogylnyi. »Vi har beskæftiget os med dette i form af politiske skandaler i Ukraine i årevis. Vi forstår, at vores teknologi kan misbruges. Selv Photoshop kan og er blevet brugt til mobning. Men på den anden side giver vi en modgift til det. Vi fik brugere til at uploade seksuelt indhold til vores app, og vi forbød disse brugere med det samme."

Carica er en app, der er lille nok til, at det er det, de skal arbejde med nu. Men generelt var Jang ikke bekymret.

"Dette sker med al ny teknologi," sagde Jang. "For det første er det drevet af misbrug, men så efter den fase bliver det tilgængeligt for alle, og folk bruger det til normale ting."

Redaktørens anbefalinger

• Sikkerhedsrobotter kommer muligvis til en skole i nærheden af ​​dig
• Amazon implementerer AI for at opsummere produktanmeldelser
• Amazon planlægger "once-in-a-generation"-ændringer for Søgning, afslører jobannoncen
• Nvidias $200 Jetson Orin Nano minicomputer er 80 gange hurtigere end den tidligere version
• Google Smart Canvas får dybere integration mellem apps