Gör världen till en bättre plats genom att använda Deepfakes

I en nyligen släppt video talar vad som verkar vara en spänd Brett Kavanaugh inför medlemmar av USA: s kongress. "Det är dags att sätta rekordet", börjar han. Under de närmaste minuterna medger högsta domstolen att det är möjligt att han begått sexuella övergrepp och uttrycker ånger för hur han svarade på anklagelserna från Christine Blasey Ford i sin vittnesbörd. "För det tar jag ansvar och jag ber om ursäkt."

Saken är den att den här scenen inte är verklig. Filmen är manipulerad, och Kavanaugh har aldrig sagt de sakerna.

I verkligheten förnekade och ignorerade Kavanaugh anklagelserna och spelade offret. Videon som beskrivs ovan är från en serie djupt förfalskade klipp som föreställer sig en framtid där allmänheten splittras figurer som Kavanaugh, Alex Jones och Mark Zuckerberg tar ansvar för sitt förflutna överträdelser.

Serien, med titeln

Djupa räkningar, är skapat av Stephanie Lepp - en artist som syftar till att framkalla positiv förändring i världen genom att utnyttja djupfalsk teknologi för att hjälpa människor att se och föreställa sig bättre versioner av sig själva.

Det är ett högt och något abstrakt projekt, men Lepp är inte ensam om sina ansträngningar. Hon är en del av en växande liga av kreatörer som syftar till att använda deepfake-teknik för att göra gott.

Deepfake det tills du klarar det

Deepfakes har haft en kontroversiell resa hittills. Tekniken har använts i stor utsträckning för skändliga syften som att skapa pornografi och desinformationskampanjer, vilket har fört den under skarp granskning från både regeringar och teknikföretag som fruktar teknikens beväpning.

"Med tanke på att den överväldigande majoriteten av deepfakes är skändliga till sin natur, är det förståeligt att vi har fokuserat på deras vapentillverkning", säger Lepp. "Men detta fokus har hindrat oss från att förverkliga deras prosociala potential. Specifikt kan deepfakes användas för utbildning, hälsa och social förändring."

Hon hävdar att, liknande hur virtuell verklighet har använts för att hjälpa patienter att återhämta sig från hjärnskador genom Genom att låta dem interagera med virtuella minnen kan deepfakes användas för psykologisk läkning vid trauma offer. Föreställ dig till exempel ett scenario där läkare kan skriva djupa falska förfalskningar av en missbrukares nyktra framtida jag och använda det för att uppmuntra dem på återhämtningsvägen.

Konceptet, åtminstone i teorin, är sunt. Jonathan Gratch, chef för virtuell mänsklig forskning vid University of Southern Californias Institute for Creative Technologies, har funnit att det kan vara väldigt motiverande att se sig själv i VR och att samma koncept lätt kan tillämpas på deepfake antal fot. Han föreslår att om en patients ansikte subtilt blandas in i läkarens ansikte, skulle patienten vara mer benägen att följa läkarens råd.

Mer än memes och desinformation

Trots det faktum att negativa tillämpningar av deepfakes tenderar att få mer uppmärksamhet, är positiva tillämpningar som Lepps på frammarsch. Under de senaste åren har tekniken dykt upp inom områdena berättande, prosociala projekt och mer.

ALS-förbundets Projekt Revoice, till exempel, gör det möjligt för patienter med amyotrofisk lateralskleros som har förlorat sin talförmåga att fortsätta använda sin röst. Hur? Genom att använda deepfakes för att skapa personliga syntetiska sångspår som kan spelas på begäran med en soundboard.

I ett separat projekt från den ideella antimalariaorganisationen Malaria måste dö, kändisatleten David Beckham levererade ett meddelande på nio olika språk (och röster) tack vare djupförfalskade ljud och video som fick hans läppar att matcha orden.

I en särskilt slående kampanj från tidigare 2020, Massachusetts Institute of Technologys Center for Advanced Virtuality försökte utbilda allmänheten om desinformation genom att producera en djupförfalskning av den tidigare amerikanska presidenten Richard M. Nixon höll det beredskapstal som skrevs 1969 i händelse av att Apollo 11-besättningen inte kunde återvända från månen.

Den här typen av public service-meddelanden och informationskampanjer är bara toppen av isberget. Deepfake-verktyg har också hjälpt till att förenkla processer i underhållningsbranschen än annars kräver förstklassig utrustning och tidskrävande resurser, såsom avåldring, röstkloning och mycket Mer. Varje ansikte i en senaste musikvideon av The Strokes var till exempel falskt, så att bandets ungefär 40-åriga medlemmar ser ut att vara 20.

Ohad Fried, universitetslektor i datavetenskap vid Israels Interdisciplinary Center Herzliya, säger att tack vare deepfakes, "det som brukade ta år av artisttid kan nu uppnås av oberoende små studior. Det här är alltid goda nyheter för mångfalden och kvaliteten på de medier vi konsumerar.”

Tippar vågen

Dock, deepfake-teknikens potential att göra skada – särskilt när det blir mer tillgängligt – är fortfarande ett problem. Aviv Ovadya, grundare av Thoughtful Technology Project, håller med om att förmågan att skapa syntetiska medier kan ha "många positiva effekter, för berättande, för personer med funktionsnedsättning och genom att möjliggöra mer sömlös kommunikation mellan språk.” Men samtidigt, han varnar för att det fortfarande finns mycket utrymme för skada när tekniken blir mainstream och mycket arbete som måste göras för att minimera dessa risker.

"Även dessa positiva användningsfall kan oavsiktligt leda till verklig och betydande skada", sa han till Digital Trends. "Utdrag ur konstverk som försöker skapa empati kan också tas ur sitt sammanhang och missbrukas."

Experter har upprepade gånger låtit tuta för att kanalisera mer resurser till upptäcktsprogram och officiella etiska riktlinjer – även om rättsliga ingripanden skulle kunna hindra yttrandefriheten. Men ingen är ännu helt säker på vilken riktning deepfakes i slutändan kommer att ta. Som all ny teknik kommer det att finnas en punkt där deepfakes kommer att nå en balans och ansvaret kommer att falla på teknikföretag, beslutsfattare och skapare för att säkerställa att vågen förblir tippad mot den goda sidan.

Ovadya föreslår också att man begränsar deepfake-verktygens tillgänglighet för massorna tills forskarna kan "Slutför några av de befästningar som vi behöver för att skydda vårt samhälle från det potentiella negativa effekter. Målet bör vara att bygga den här tekniken på ett sätt som mildrar dessa negativa effekter så mycket som möjligt åtminstone."

För nu kommer Lepp dock att ägna sin tid åt att fokusera på sin nästa djupfalska huvudperson: Donald Trump och hans eftergiftstal.

Redaktörens rekommendationer

• Digital Trends Tech For Change CES 2023 Awards
• Finishing touch: Hur forskare ger robotar mänskliga taktila sinnen
• IBMs nya batteri kan överträffa litiumjon, och det använder inte konfliktmineraler
• Waiting in the wings: Hur drönare revolutionerar kampen mot hunger
• Stallone i Terminator 2? Hur en deepfake skojare förändrar biografhistorien