Varför Deepfakes snart kommer att bli lika vanligt som Photoshop

Visste du att du kan göra en deepfake-video från bekvämligheten av ditt eget hem eller på din telefon? Ladda ner en av de många appar för ansiktsbyte eller deepfake som är tillgängliga från din lokala appbutik och du också kan påverka ett val.

Okej, inte riktigt, och det stöder vi definitivt inte. Men i hypen och oron runt deepfake teknik, och dess mycket verkliga missbruk, den enkla sanningen är att denna teknik inte försvinner. Faktum är att det kommer att bli lika vanligt som Photoshop, särskilt om apputvecklarna arbetar med deepfake tech har något att säga om det: Vi kan snart se hyperriktade annonser med våra egna ansikten på dem.

Roman Mogylnyi, VD för RefaceAI, en startup baserad i Ukraina, sa att de har arbetat med maskininlärning sedan 2011, och 2014 gick de över till att göra sina egna appar baserade på deepfake-teknik. RefaceAI har redan släppt en foto-deepfake-app som heter Reflect, och är på väg att släppa både sin egen video-deepfake-app, såväl som en webbtjänst som kommer att hjälpa till att upptäcka deepfake-videor.

"Vi såg redan från början att den här tekniken missbrukades," sa Mogylnyi. "Vi trodde att vi kunde göra det bättre."

RefaceAI har redan arbetat med några filmproduktionsbolag – även om Mogylnyi inte kunde säga vilka – för att använda sin teknik för att byta skådespelares ansikten på kroppsdubbel, till en kostnad som är mycket mindre än vad det skulle ha varit att flyga tillbaka skådespelarna för att sätta och spela in scenerna i fråga. Detta, sa Mogylnyi, är vad företaget ser som framtiden för deepfakes. "Vi vill använda det för marknadsföring, för att anpassa annonser, för gifs, för underhållningsmaterial i allmänhet," sa han.

Medias framtid

RefaceAI är inte det företag som försöker komma före denna oundvikliga marknadsföringskurva. Carica, en app baserad från Sydkorea, utvecklar också deepfake GIF: er och videor där en person kan ympa sitt ansikte på en populär reaktions-GIF för att skicka till vänner och familj. Appen innehåller redan popup-annonser som införlivar användarens ansikte i annonsens foto eller video.

"Vi vill att vårt företag ska bli ett medieföretag," sa Caricas ingenjör Joseph Jang till Digital Trends. Deepfakes är precis som de börjar. "Jag tror att medieföretag kommer att börja använda den här funktionen. Det kommer att bli ett alternativ du har, precis som en filtrera. Det kommer att bli så normalt för människor.”

Både Jang och Mogylnyi använde spridningen av Photoshop som modell för vart de ser Deepfakes gå: Så vanligt att det är omärkligt, om än fortfarande lite kontroversiellt. Och för dem båda är de politiska och etiska problemen som är insvept i djupa falska egentligen bara kör av bruket.

Shamir Allibhai, VD för plattformen för deepfake-detektering Amber Video, sa till Digital Trends att hans överordnade uppfattning var att deepfake-teknik, liksom de flesta andra typer av teknik, är amoraliska.

"Det skulle vara som att säga att Microsoft Word är omoraliskt, är ondskefullt eftersom potentiella terrorister kommer att använda det till hysa våldsbejakande, extremistisk ideologi, som kommer att inspirera andra att förespråka våldsbejakande extremistisk ideologi," han sa. "Jag ser väldigt mycket den här tekniken i samma anda."

Amber Video är en plattform som annonserar sina tjänster för att bekämpa djupförfalskningar för att "förebygga bedrägeri, förlust av rykte och misstroende från intressenter." Allibhai sa att han inte visste om han var redo att köpa något bara för att hans ansikte var på det, men han höll med om att tekniken så småningom kommer att vara genomträngande.

"Det är en spegel av samhället", sa han. "Du ser detta i tekniker som Twitter-plattformen. Du ser det bästa av mänskligheten och det värsta av oss. Deepfake-teknik kommer också att spegla samhället. Det finns människor som kommer att använda det för lättsam satir och göra narr av auktoritära regimer. Men vi ska också försöka sy kaos.”

Beväpning av deepfakes

Den största rädslan är fortfarande det potentiella övergreppet och beväpningen av deepfakes. När de blir vanligare kan vi till och med se dem utplacerade inte bara för omfattande desinformationskampanjer, utan för praktiska skämt eller mobbning på gymnasiet. Om tekniken är tillräckligt tillgänglig kan vem som helst använda den.

Både Carica och RefaceAI sa att de vidtar åtgärder för att mildra potentiellt missbruk – RefaceAI med sin webbtjänst för deepfake-detektion och Carica med innehållsmoderatorer. Hela Carica-företaget är bara nio personer just nu, sa Jang, och de byter ut uppgifter om innehållsmoderering.

"Detta var verkligen den första frågan vi ställde oss själva", sa RefaceAIs Mogylnyi. "Vi har hanterat detta i termer av politiska skandaler i Ukraina i flera år. Vi förstår att vår teknik kan missbrukas. Även Photoshop kan och har använts för mobbning. Men å andra sidan tillhandahåller vi ett motgift för det. Vi lät användare ladda upp sexuellt innehåll till vår app, och vi förbjöd dessa användare direkt."

Carica är en tillräckligt liten app för att det är vad de måste arbeta med för tillfället. Men totalt sett var Jang inte orolig.

"Detta händer med all ny teknik," sa Jang. "För det första drivs det av missbruk, men sedan efter den fasen blir det tillgängligt för alla och folk använder det för vanliga saker."

Redaktörens rekommendationer

• Säkerhetsrobotar kan komma till en skola nära dig
• Amazon använder AI för att sammanfatta produktrecensioner
• Amazon planerar "en gång i generationen"-ändringar för Sök, avslöjar jobbannonsen
• Nvidias $200 Jetson Orin Nano minidator är 80 gånger snabbare än den tidigare versionen
• Google Smart Canvas får djupare integration mellan appar