Er Deepfakes farlige? Skapere og regulatorer er uenige

I løpet av de siste årene, deepfakes har dukket opp som internetts siste go-to for memer og parodiinnhold.

Det er lett å se hvorfor: De gjør det mulig for skapere å bøye virkelighetens regler som ingen annen teknologi før. Gjennom magien til deepfakes kan du se Jennifer Lawrence holder en tale gjennom ansiktet til Steve Buscemi, se hva Ryan Reynolds ville ha sett ut som Willy Wonka, og til og med fange Hitler og Stalin syngerVideo Killed The Radio Star i en duett.

For de uinnvidde er deepfake-teknologi en form for syntetiske medier som lar brukere legge et annet ansikt over andres på en måte som nesten ikke kan skilles fra originalen. Den gjør det ved å lese hauger av data for å forstå ansiktets konturer og andre egenskaper for naturlig å blande og animere det inn i scenen.

På dette tidspunktet har du sannsynligvis kommet over slike klipp på plattformer som TikTok (hvor hashtaggen "#deepfake" har omtrent 200 millioner visninger), YouTube og andre steder. Enten det er for å oppfylle fanfiction og gjøre om scener med stjerner de skulle ønske at filmen opprinnelig hadde castet eller satt en død person i et moderne, viralt meme. Deepfakes har blitt tatt i bruk som et kreativt utløp for formål som tidligere var nesten umulige.

Skiftet har skapt en liga av nye skapere som Ctrl Skift Ansikt, hvis dypfalske videoer jevnlig trekker millioner av visninger og ofte er hovedemnet for diskusjon på talkshows sent på kvelden.

"Det er en helt ny måte å lage morsomme internettvideoer på, eller fortelle historier som vi aldri har sett før," sier den nederlandske skaperen bak hiten "The Avengers of Oz” deepfake klipp som ba om at hans virkelige navn ikke ble brukt. "Det er en vakker kombinasjon av fascinasjon for A.I. teknologi og humor.»

Men det er en truende risiko som truer fremtiden til deepfake-teknologi totalt: Dets forurensede rykte.

Med stor kraft kommer stor repostability

Deepfakes har dessverre i tillegg til deres potensiale som et kreativt verktøy for velmenende videokunstnere også et enormt potensial til å gjøre skade.

En nylig studie av Dawes Center for Future Crime ved UCL Jill Dando Institute of Security and Crime Science merket deepfakes som den mest alvorlige A.I.-aktiverte trusselen. Sen. Ben Sasse, en republikaner fra Nebraskan som har innført et lovforslag for å kriminalisere ondsinnet oppretting av dype forfalskninger, advart i fjor at teknologien kunne «ødelegge menneskeliv», «raske finansmarkedene» og til og med «anspore til militære konflikter rundt om i verden».

Til en viss grad er disse bekymringene rettferdige. Tross alt har spredningen av deepfake-teknologi allerede muliggjort ting som produksjon av falskt voksent innhold med kjendiser, og naturtro etterligninger av politikere for satire. Tidligere i år, Dan Scavino, direktør for sosiale medier i Det hvite hus, twitret et dårlig manipulert klipp, som også ble retweetet av president Donald Trump, av Trumps rival Joe Biden som ber folk om å gjenvelge Trump.

Imidlertid har disse mindre enn overbevisende hoaxene raskt blitt avkreftet før de nådde massene. Enda viktigere, eksperter antyder at dypfalske videoer så langt har hatt liten eller ingen samfunnsmessig innvirkning, og at de for øyeblikket ikke utgjør noen overhengende trusler. For eksempel forskning utført av Sensitet, et cybersikkerhetsfirma med fokus på visuelle trusler, hevder at de aller fleste dypfalske videoer er pornografisk (96%) og at teknologien ennå ikke har kommet inn i noen vesentlig desinformasjon kampanjer.

På samme måte, a Rapport fra Georgetown University konkluderte med at selv om dype forfalskninger er en "imponerende teknisk bragd", bør politikere ikke skynde seg inn hypen ettersom teknologien ikke er perfekt for øyeblikket og ikke bare kan påvirke hendelser i den virkelige verden ennå.

Skaperen bak den mest populære deepfake-kanalen Ctrl Shift Face, hvis videoer blir sett av millioner, mener "hysteriet" sirkler rundt det dype falske emnet avleder lovgivernes oppmerksomhet bort fra de virkelige problemene, for eksempel den dårlig regulerte annonsen nettverk på Facebook som faktisk er ansvarlige for å villede folk.

"Hvis det noen gang vil være en skadelig deepfake, er Facebook stedet der den vil spre seg," sa Ctrl Shift Face i et intervju med Digital Trends. «I så fall, hva er det største problemet? Mediet eller plattformen?»

Eieren av BabyZone, en YouTube-spillkanal med over en halv million abonnenter som ofte forfalsker kjendiser til video spill, gjenspeiler en lignende bekymring: "Jeg tror at deepfakes er en teknologi som alle andre eksisterende teknologier. De kan brukes til gode og dårlige formål."

Bevegelsen for å redde deepfakes

I løpet av det siste året eller to, mens regjeringer og teknologiselskaper undersøker de potensielle risikoene ved dette teknologi, har deepfake-forkjempere kjempet for å dempe disse bekymringene og fikse teknologiens offentlighet bilde. Reddit-fellesskap som søker å "justere dette stigmaet" har dukket opp, og noen uavhengige forskere bygger aktivt systemer som kan oppdage dype forfalskninger før de blir virale.

Roman Mogylnyi, administrerende direktør og medgründer av Reface, en populær app som lar deg raskt bytte ansiktet ditt til en hvilken som helst GIF, sier at oppstarten hans nå utvikler et deteksjonsverktøy som kan fortelle om en video ble laget med Reface's teknologi. "Vi tror at bred tilgang til syntetiserte medieverktøy som vårt vil øke menneskehetens empati og kreativitet, og vil bidra til å endre oppfatningen av teknologien til det bedre," sa Mogylnyi til Digital Trender.

Eran Dagan, grunnlegger og administrerende direktør i Botika, oppstarten bak den populære ansiktsbytte-appen Jiggy, har et lignende syn mot deepfakes og tror at etter hvert som de blir mer mainstream, "vil folk være mye mer bevisste på deres positive bruk saker."

Gitt de potensielle farene ved deepfakes, er det imidlertid sannsynlig at Kongressen til slutt vil tre inn. Store teknologiske plattformer inkludert Facebook, Twitter og YouTube har allerede oppdatert sine retningslinjer for å flagge eller fjerne manipulerte medier som er laget for å villede. Flere stater som California og New York har vedtatt lovforslag som vil straffe produsenter av villedende deepfakes, så vel som de som er utgitt uten samtykke fra personen hvis ansikt er brukt.

Bør deepfakes reguleres?

Selv om disse retningslinjene utelukker parodiinnhold, eksperter, frykter dårlig definerte lover eller et fullstendig forbud mot teknologien, mener fortsatt kongressen bør holde seg unna det og la deepfakes gå den naturlige kursen som enhver ny form for media går gjennom.

David Greene, borgerrettighetsdirektør ved Electronic Frontier Foundation, sier «ethvert forsøk fra Kongressen på å regulere dype forfalskninger eller egentlig noen form for visuell kommunikasjon vil være en regulering av tale og implisere den første Endring.

Disse lovene, legger Greene til, må være presise og må - i veldefinerte og lett forståelige termer - adressere skaden de prøver å begrense. «Det vi har sett så langt … reguleringsforsøk på delstatsnivå er vage og overordnede lover som ikke har den presisjonen den første endringen krever. De har ikke påkrevd unntak for parodi og politiske kommentarer.»

Giorgio Patrini, administrerende direktør i Sensity, finner et forbud mot algoritmer og programvare «meningsløst i internett-æraen». Patrini sammenligner denne gåten med skadelig programvare beskyttelse og hvordan det er nesten umulig å få slutt på alle datavirus eller deres forfattere, så det er bedre å bare investere i anti-malware-mekanismer i stedet. "Samfunnet trenger å bygge nye mekanismer for å sertifisere hva man kan stole på, og hvordan man kan forhindre negative virkninger av syntetisk innhold på enkeltpersoner og organisasjoner," sa han.

Tim Whang skrev i Georgetown University-rapporten at med kommodifiseringen av deepfake-verktøy, teknologien for å oppdage og filtrere det ut automatisk vil følgelig utvikle seg og bli mer nøyaktig - og dermed nøytralisere deres evne til å presentere noe alvorlig trusler.

Microsofts nylig lanserte deepfake-deteksjonsverktøy, analyserer for eksempel videoene for å gi deg en konfidenspoengsum som indikerer hvor sannsynlig det er at videoen ble endret.

"Deepfakes er en ny form for mediemanipulasjon, men ikke første gang vi har møtt denne typen utfordringer. Vi utforsker og investerer i måter å adressere syntetiske medier, sa en YouTube-talsperson.

Forskerne bak CtrlShiftLab, en avansert deepfake-programvare som mange YouTubere inkludert Ctrl Shift Face bruker, er nå jobber også mot åpen kildekode-prosjekter for å øke bevisstheten og bygge mer omfattende deteksjon tjenester.

"Den eneste måten å forhindre dette [deepfake-misbruket] er å etablere et åpen kildekode-deepfake-relatert prosjekt og tiltrekke seg publikums oppmerksomhet. Så offentlige nettbrukere kan innse at deepfakes eksisterer," sa Kunlin Liu, en av CtrlShiftLabs forskere, til Digital Trends.

Flere deepfake-skapere Digital Trends snakket med forblir optimistiske og finner landenes tilbakeslag mot deepfakes for tidlig. De er enige om at deepfakes voksende rolle i memer og parodikultur vil være medvirkende til å reparere denne fremvoksende teknologiens grusomme rykte. Og så lenge videoer har ansvarsfraskrivelser og plattformer investerer i mer effektive deteksjonslag, la de til, er dypforfalskninger kommet for å bli.

"Jeg tror at omdømmet til deepfakes forbedres betraktelig. For to år siden betydde ordet deepfake automatisk porno," sa skaperen av Ctrl Shift Face. "Nå kjenner de fleste deepfakes på grunn av disse underholdende videoene som sirkulerer rundt på internett."

Redaktørenes anbefalinger

• Digital Trends' Tech For Change CES 2023 Awards
• I det morsomme Project Gucciberg leser en dypt forfalsket Gucci Mane klassiske romaner
• Hvordan kunstnere og aktivister bruker deepfakes som en kraft for det gode
• Twitter vil forby dype forfalskninger som 'forårsaker skade' før valget i 2020
• California slår ned på deepfakes for politikk og porno