Er Deepfakes farlige? Skabere og regulatorer er uenige

I løbet af de sidste par år, deepfakes er dukket op som internettets seneste go-to for memes og parodiindhold.

Det er let at se hvorfor: De gør det muligt for skabere at bøje virkelighedens regler som ingen anden teknologi før. Gennem magien ved deepfakes kan du se Jennifer Lawrence holder en tale gennem Steve Buscemis ansigt, se, hvad Ryan Reynolds ville have set ud som Willy Wonka, og endda fange Hitler og Stalin syngerVideo Killed The Radio Star i en duet.

For de uindviede er deepfake-teknologi en form for syntetiske medier, der giver brugerne mulighed for at overlejre et andet ansigt på en andens på en måde, der næsten ikke kan skelnes fra originalen. Det gør det ved at læse dynger af data for at forstå ansigtets konturer og andre karakteristika for naturligt at blande og animere det i scenen.

På dette tidspunkt er du sikkert stødt på sådanne klip på platforme som TikTok (hvor hashtagget "#deepfake" har omkring 200 millioner visninger), YouTube og andre steder. Om det er for at opfylde fanfiction og gentage scener med stjerner de ønsker, at filmen oprindeligt havde castet eller sat en død person i et moderne, viralt meme, deepfakes er blevet vedtaget som en kreativ afsætningsmulighed til formål, der tidligere var nærmest umulige.

Skiftet har affødt en liga af nye skabere som Ctrl Skift Ansigt, hvis deepfake-videoer regelmæssigt trækker millioner af visninger og ofte er det vigtigste diskussionsemne på talkshows sent om aftenen.

"Det er en helt ny måde at lave sjove internetvideoer på eller fortælle historier, som vi aldrig har set før," siger den hollandsk-baserede skaber bag hittet "The Avengers of Oz” deepfake klip, der bad om, at hans rigtige navn ikke blev brugt. "Det er en smuk kombination af fascination for A.I. teknologi og humor.”

Men der er en truende risiko, der totalt truer fremtiden for deepfake-teknologi: Dens plettede omdømme.

Med stor kraft kommer stor repostability

Deepfakes har desværre ud over deres potentiale som et kreativt værktøj for velmenende videokunstnere også et enormt potentiale til at gøre skade.

En nylig undersøgelse af Dawes Center for Future Crime ved UCL Jill Dando Institute of Security and Crime Science betegnet deepfakes som den mest alvorlige A.I.-aktiverede trussel. Sen. Ben Sasse, en republikaner fra Nebraskan, der har fremsat et lovforslag for at kriminalisere den ondsindede skabelse af deepfakes, advaret sidste år, at teknologien kunne "ødelægge menneskeliv", "spolere finansmarkederne" og endda "anspore til militære konflikter rundt om i verden."

Til en vis grad er disse bekymringer rimelige. Når alt kommer til alt, har udbredelsen af ​​deepfake-teknologi allerede muliggjort ting som produktion af falsk voksenindhold med berømtheder og naturtro efterligninger af politikere for satire. Tidligere i år, Dan Scavino, direktør for sociale medier i Det Hvide Hus, tweeted et dårligt manipuleret klip, som også blev retweetet af præsident Donald Trump, af Trumps rival Joe Biden, der beder folk om at genvælge Trump.

Disse mindre end overbevisende svindelnumre er dog hurtigt blevet afkræftet, før de nåede masserne. Endnu vigtigere er det, at eksperter antyder, at deepfake-videoer hidtil har haft ringe eller ingen samfundsmæssig indvirkning, og at de i øjeblikket ikke udgør nogen overhængende trusler. For eksempel forskning udført af Følsomhed, et cybersikkerhedsfirma med fokus på visuelle trusler, hævder, at langt størstedelen af ​​deepfake-videoer er pornografisk (96%), og at teknologien endnu ikke har fundet vej til nogen væsentlig desinformation kampagner.

Tilsvarende, a Georgetown University rapport konkluderede, at selvom deepfakes er en "imponerende teknisk bedrift", bør politikere ikke skynde sig ind hypen, da teknologien ikke er perfekt i øjeblikket og ikke bare kan påvirke begivenheder i den virkelige verden endnu.

Skaberen bag den mest populære deepfake-kanal Ctrl Shift Face, hvis videoer ses af millioner, tror på "hysteriet" cirkler omkring det dybe falske emne afleder lovgivernes opmærksomhed væk fra de virkelige problemer, såsom den dårligt regulerede annonce netværk på Facebook der faktisk er ansvarlige for at vildlede folk.

"Hvis der nogensinde vil være en skadelig deepfake, er Facebook stedet, hvor den vil sprede sig," sagde Ctrl Shift Face i et interview med Digital Trends. "Hvad er i så fald det største problem? Mediet eller platformen?”

Ejeren af BabyZone, en YouTube-spilkanal med over en halv million abonnenter, der ofte deepfakes berømtheder til video spil, gentager en lignende bekymring: "Jeg tror, ​​at deepfakes er en teknologi som alle de andre eksisterende teknologier. De kan bruges til gode og til dårlige formål.”

Bevægelsen for at redde deepfakes

I løbet af de sidste år eller to, hvor regeringer og teknologivirksomheder har undersøgt de potentielle risici ved dette teknologi, har deepfake-fortalere kæmpet for at dæmpe disse bekymringer og rette op på teknologiens offentlighed billede. Reddit-fællesskaber der søger at "justere dette stigma", er dukket op, og nogle uafhængige forskere bygger aktivt systemer, der kan spotte deepfakes, før de bliver virale.

Roman Mogylnyi, administrerende direktør og medstifter af Reface, en hit-app, der lader dig hurtigt skifte dit ansigt til en hvilken som helst GIF, siger, at hans startup nu udvikler et detektionsværktøj, der kan fortælle, om en video blev lavet med Reface's teknologi. "Vi tror på, at bred adgang til syntetiserede medieværktøjer som vores vil øge menneskehedens empati og kreativitet og vil være med til at ændre opfattelsen af ​​teknologien til det bedre,” sagde Mogylnyi til Digital Trends.

Eran Dagan, grundlægger og administrerende direktør for Botika, startup'et bag den populære ansigtsbytte-app Jiggy, har et lignende syn over for deepfakes og mener, at efterhånden som de bliver mere mainstream, "vil folk være meget mere opmærksomme på deres positive brug sager."

I betragtning af de potentielle farer ved deepfakes er det dog sandsynligt, at Kongressen med tiden vil træde ind. Store teknologiske platforme inklusive Facebook, Twitter og YouTube har allerede opdateret deres politikker for at markere eller fjerne manipulerede medier, der er designet til at vildlede. Flere stater som Californien og New York har vedtaget lovforslag, der vil straffe producenter af bevidst vildledende deepfakes, såvel som dem, der er frigivet uden samtykke fra den person, hvis ansigt er brugt.

Skal deepfakes reguleres?

Selvom disse politikker udelukker parodiindhold, eksperter, frygtede dårligt definerede love eller et fuldstændigt forbud mod teknologien, mener stadig, at Kongressen bør holde sig ude af det og lade deepfakes løbe den naturlige kurs, som enhver ny form for medier går igennem.

David Greene, direktør for borgerlige frihedsrettigheder hos Electronic Frontier Foundation, siger "ethvert forsøg fra Kongressen på at regulere dybe forfalskninger eller virkelig enhver form for visuel kommunikation vil være en regulering af tale og implicere den første Ændring.

Disse love, tilføjer Greene, skal være præcise og skal - i veldefinerede og letforståelige termer - adressere den skade, de forsøger at begrænse. "Hvad vi har set indtil videre... reguleringsforsøg på statsniveau er vage og overordnede love, der ikke har den præcision, som det første ændringsforslag kræver. De har ikke krævet undtagelser for parodi og politiske kommentarer."

Giorgio Patrini, CEO for Sensity, finder et forbud mod algoritmer og software "meningsløst i internetæraen." Patrini sammenligner denne gåde med malware beskyttelse og hvordan det er næsten umuligt at sætte en stopper for alle computervirus eller deres forfattere, så det er bedre blot at investere i anti-malware-mekanismer i stedet. "Samfundet er nødt til at bygge nye mekanismer til at certificere, hvad man kan stole på, og hvordan man forhindrer de negative virkninger af syntetisk indhold på enkeltpersoner og organisationer," sagde han.

Tim Whang skrev i Georgetown University-rapporten, at med kommodificeringen af ​​deepfake-værktøjer, teknologien til at opdage og filtrere det ud automatisk vil følgelig udvikle sig og blive mere præcist - og derved neutralisere deres evne til at præsentere enhver seriøs trusler.

Microsofts nyligt lancerede deepfake-detektionsværktøjanalyserer for eksempel videoerne for at give dig en tillidsscore, der angiver, hvor sandsynligt det er, at videoen er blevet ændret.

"Deepfakes er en ny form for mediemanipulation, men ikke første gang, vi står over for denne type udfordring. Vi udforsker og investerer i måder at adressere syntetiske medier på,” sagde en YouTube-talsmand.

Forskerne bag CtrlShiftLab, en avanceret deepfake-skabelsessoftware, som mange YouTubere inklusive Ctrl Shift Face anvender, er nu arbejder også hen imod open source-projekter for at øge bevidstheden og opbygge mere omfattende detektion tjenester.

"Den eneste måde at forhindre dette [deepfake misbrug] er at etablere et open source deepfake-relateret projekt og tiltrække offentlighedens opmærksomhed. Så offentlige netbrugere kan indse, at deepfakes eksisterer,” fortalte Kunlin Liu, en af ​​CtrlShiftLabs forskere, til Digital Trends.

Adskillige deepfake-skabere, Digital Trends talte med, forbliver optimistiske og finder landes tilbageslag mod deepfakes for tidligt. De er enige om, at deepfakes voksende rolle i memes og parodikulturen vil være medvirkende til at rette op på denne spirende teknologis grimme ry. Og så længe videoer har ansvarsfraskrivelser og platforme investerer i mere effektive detektionslag, tilføjede de, er deepfakes kommet for at blive.

"Jeg tror, ​​at deepfakes' omdømme forbedres markant. For to år siden betød ordet deepfake automatisk porno,” sagde skaberen af ​​Ctrl Shift Face. "Nu kender de fleste mennesker deepfakes på grund af disse underholdende videoer, der cirkulerer rundt på internettet."

Redaktørernes anbefalinger

• Digital Trends' Tech For Change CES 2023 Awards
• I det morsomme Project Gucciberg læser en dybt forfalsket Gucci Mane klassiske romaner
• Hvordan kunstnere og aktivister bruger deepfakes som en kraft til det gode
• Twitter vil forbyde deepfakes, der 'forvolder skade' forud for valget i 2020
• Californien slår ned på deepfakes for politik og porno