Är Deepfakes farliga? Skapare och regulatorer håller inte med

Under de senaste åren, deepfakes har dykt upp som internets senaste go-to för memes och parodiinnehåll.

Det är lätt att förstå varför: De gör det möjligt för kreatörer att böja verklighetens regler som ingen annan teknik tidigare. Genom magin med deepfakes kan du titta på Jennifer Lawrence håller ett tal genom Steve Buscemis ansikte, se Vadå Ryan Reynolds skulle ha sett ut som Willy Wonka, och till och med fånga Hitler och Stalin sjungerVideo Killed The Radio Star i en duett.

För den oinvigde är deepfake-teknik en form av syntetisk media som låter användare lägga ett annat ansikte på någon annans på ett sätt som nästan inte går att skilja från originalet. Det gör det genom att läsa massor av data för att förstå ansiktets konturer och andra egenskaper för att naturligt blanda och animera det i scenen.

Vid det här laget har du förmodligen stött på sådana klipp på plattformar som TikTok (där hashtaggen "#deepfake" har cirka 200 miljoner visningar), YouTube och på andra ställen. Oavsett om det är för att uppfylla fanfiction och göra om scener med stjärnor de önskar att filmen ursprungligen hade cast eller satt en död person i ett modernt viralt meme, deepfakes har antagits som ett kreativt utlopp för ändamål som tidigare var näst intill omöjliga.

Skiftet har gett upphov till en serie nya kreatörer som Ctrl Skift Ansikte, vars deepfake-videor regelbundet drar miljontals visningar och ofta är det huvudsakliga diskussionsämnet på talkshows sent på kvällen.

"Det är ett helt nytt sätt att göra roliga internetvideor, eller berätta historier som vi aldrig sett förut", säger den nederländska kreatören bakom hiten "The Avengers of Oz” deepfake klipp som bad att hans riktiga namn inte skulle användas. "Det är en vacker kombination av fascination för A.I. teknik och humor.”

Men det finns en hotande risk som helt och hållet hotar framtiden för deepfake-teknik: dess smutsiga rykte.

Med stor kraft kommer stor repostability

Tyvärr, förutom deras potential som ett kreativt verktyg för välmenande videoartister, har deepfakes också en enorm potential att göra skada.

En nyligen studie av Dawes Center for Future Crime vid UCL Jill Dando Institute of Security and Crime Science märkt deepfakes som det allvarligaste A.I.-aktiverade hotet. Sen. Ben Sasse, en nebraskansk republikan som har lagt fram ett lagförslag för att kriminalisera illvilligt skapande av deepfakes, varnade förra året att tekniken kunde "förstöra människoliv", "skada finansmarknaderna" och till och med "spora till militära konflikter runt om i världen."

Till viss del är dessa farhågor rättvisa. När allt kommer omkring har spridningen av deepfake-teknik redan möjliggjort saker som produktion av falskt vuxeninnehåll med kändisar och verklighetstrogna efterlikningar av politiker för satir. Tidigare i år, Dan Scavino, Vita husets sociala mediechef, twittrade ett dåligt manipulerat klipp, som också retweetades av president Donald Trump, av Trumps rival Joe Biden som ber folk att omvälja Trump.

Dessa mindre än övertygande bluffar har dock snabbt avslöjats innan de nådde massorna. Ännu viktigare, experter antyder att deepfake-videor hittills har haft liten eller ingen samhällspåverkan, och att de för närvarande inte utgör några överhängande hot. Till exempel forskning utförd av Känslighet, ett cybersäkerhetsföretag fokuserat på visuella hot, hävdar att den stora majoriteten av deepfake-videor är pornografiska (96 %) och att tekniken ännu inte har tagit sig in i någon betydande desinformation kampanjer.

På samma sätt, a Georgetown University rapport drog slutsatsen att även om djupförfalskningar är en "imponerande teknisk bedrift", borde politiker inte rusa in sig hypen eftersom tekniken inte är perfekt för tillfället och inte bara kan påverka verkliga händelser än.

Skaparen bakom den mest populära deepfake-kanalen Ctrl Shift Face, vars videor ses av miljoner, tror på "hysterin" Att cirkla runt det djupa falska ämnet avleder lagstiftarnas uppmärksamhet bort från de verkliga problemen, som den dåligt reglerade annonsen nätverk på Facebook som faktiskt är ansvariga för att vilseleda människor.

"Om det någonsin kommer att finnas en skadlig deepfake, är Facebook platsen där det kommer att spridas," sa Ctrl Shift Face i en intervju med Digital Trends. "Vad är i så fall den största frågan? Mediet eller plattformen?”

Ägaren av BabyZone, en YouTube-spelkanal med över en halv miljon prenumeranter som ofta förfalskar kändisar till video spel, upprepar en liknande oro: "Jag tror att deepfakes är en teknik som alla andra existerande tekniker. De kan användas för bra och för dåliga syften.”

Rörelsen för att rädda deepfakes

Under de senaste åren eller två har regeringar och teknikföretag undersökt de potentiella riskerna med detta teknik har deepfake-förespråkare kämpat för att mildra dessa farhågor och fixa teknikens allmänhet bild. Reddit-gemenskaper som försöker "justera detta stigma" har dykt upp, och vissa oberoende forskare bygger aktivt system som kan upptäcka deepfakes innan de blir virala.

Roman Mogylnyi, VD och medgrundare av Reface, en hitapp som låter dig snabbt byta ut ditt ansikte till vilken GIF som helst, säger att hans startup nu utvecklar ett detekteringsverktyg som kan avgöra om en video gjordes med Reface's teknologi. "Vi tror att bred tillgång till syntetiserade medieverktyg som vårt kommer att öka mänsklighetens empati och kreativitet och kommer att bidra till att förändra uppfattningen om tekniken till bättre, säger Mogylnyi till Digital Trender.

Eran Dagan, grundare och VD för Botika, startupen bakom den populära ansiktsbyte-appen Jiggy, har liknande synsätt mot deepfakes och tror att när de blir mer mainstream, "kommer folk att bli mycket mer medvetna om deras positiva användning fall.”

Med tanke på de potentiella farorna med deepfakes är det dock troligt att kongressen så småningom kommer att träda in. Stora tekniska plattformar inklusive Facebook, Twitter och YouTube har redan uppdaterat sina policyer för att flagga eller ta bort manipulerad media som är utformad för att vilseleda. Flera stater som Kalifornien och New York har antagit lagförslag som kommer att straffa tillverkare av avsiktligt bedrägliga deepfakes, såväl som sådana som släpps utan samtycke från den person vars ansikte används.

Bör deepfakes regleras?

Även om dessa policyer utesluter parodiinnehåll, experter, rädsla för dåligt definierade lagar eller ett fullständigt förbud mot tekniken, anser fortfarande att kongressen bör hålla sig utanför det och låta deepfakes gå den naturliga kursen som varje ny form av media går genom.

David Greene, medborgarrättsdirektör vid Electronic Frontier Foundation, säger "alla försök från kongressen att reglera djupa förfalskningar eller egentligen någon form av visuell kommunikation kommer att vara en reglering av tal och implicera den första Ändring.

Dessa lagar, tillägger Greene, måste vara exakta och måste - i väldefinierade och lättförståeliga termer - ta itu med den skada de försöker begränsa. "Vad vi har sett hittills... regulatoriska försök på statlig nivå är vaga och övergripande lagar som inte har den precision som det första tillägget kräver. De har inte krävt undantag för parodi och politiska kommentarer."

Giorgio Patrini, vd för Sensity, anser att ett förbud mot algoritmer och programvara är "meningslöst i internettiden." Patrini jämför denna gåta med skadlig programvara skydd och hur det är näst intill omöjligt att sätta stopp för alla datavirus eller deras upphovsmän, så det är bättre att helt enkelt investera i anti-malware-mekanismer istället. "Samhället behöver bygga nya mekanismer för att certifiera vad man kan lita på och hur man förhindrar de negativa effekterna av syntetiskt innehåll på individer och organisationer", sa han.

Tim Whang skrev i Georgetown University-rapporten att med kommodifieringen av deepfake-verktyg, tekniken för att upptäcka och filtrera det ut automatiskt kommer följaktligen att utvecklas och bli mer exakt - och därigenom neutralisera deras förmåga att presentera någon allvarlig hot.

Microsofts nyligen lanserade verktyg för deepfake-detektion, till exempel analyserar videorna för att ge dig ett förtroendepoäng som indikerar hur troligt det är att videon har ändrats.

"Deepfakes är en ny form av mediamanipulation, men inte första gången vi har ställts inför den här typen av utmaningar. Vi utforskar och investerar i sätt att ta itu med syntetiska medier”, säger en talesperson för YouTube.

Forskarna bakom CtrlShiftLab, en avancerad mjukvara för deepfake-skapande som många YouTubers inklusive Ctrl Shift Face använder, är nu arbetar också mot projekt med öppen källkod för att öka medvetenheten och bygga mer omfattande upptäckt tjänster.

"Det enda sättet att förhindra detta [deepfake-missbruk] är att etablera ett deepfake-relaterat projekt med öppen källkod och attrahera allmänhetens uppmärksamhet. Så offentliga nätanvändare kan inse att deepfakes existerar, säger Kunlin Liu, en av CtrlShiftLabs forskare, till Digital Trends.

Flera deepfake-skapare som Digital Trends pratade med förblir optimistiska och finner länders tillbakadragande mot deepfakes för tidigt. De är överens om att deepfakes växande roll i memes och parodikulturen kommer att vara avgörande för att laga den här framväxande teknikens smutsiga rykte. Och så länge videor har ansvarsfriskrivningar och plattformar investerar i effektivare detekteringslager, tillade de, är deepfakes här för att stanna.

"Jag tror att ryktet för deepfakes förbättras avsevärt. För två år sedan betydde ordet deepfake automatiskt porr”, sa skaparen av Ctrl Shift Face. "Nu känner de flesta till deepfakes på grund av dessa underhållande videor som cirkulerar runt på internet."

Redaktörens rekommendationer

• Digital Trends Tech For Change CES 2023 Awards
• I det roliga Project Gucciberg läser en djupförfalskad Gucci Mane klassiska romaner
• Hur artister och aktivister använder deepfakes som en kraft för gott
• Twitter vill förbjuda deepfakes som "vållar skada" inför valet 2020
• Kalifornien slår ner på deepfakes för politik och porr