Jesu li Deepfakeovi opasni? Kreatori i regulatori se ne slažu

U proteklih nekoliko godina, deepfakes pojavili su se kao najnoviji internetski izbor za meme i parodijski sadržaj.

Lako je vidjeti zašto: oni omogućuju kreatorima da zaobiđu pravila stvarnosti kao nijedna druga tehnologija prije. Kroz magiju deepfakea, možete gledati Jennifer Lawrence drži govor kroz lice Stevea Buscemija, vidjeti što Ryan Reynolds bi izgledao kao Willy Wonka, pa čak i uhvatiti Hitler i Staljin pjevajuVideo je ubio Radio Star u duetu.

Za neupućene, deepfake tehnologija je oblik sintetičkog medija koji korisnicima omogućuje da nametnu drugačije lice tuđem na način koji se gotovo ne razlikuje od originala. To čini čitanjem hrpe podataka kako bi razumio konture lica i druge karakteristike kako bi ih prirodno uklopio i animirao u scenu.

U ovom trenutku vjerojatno ste naišli na takve isječke na platformama kao što je TikTok (gdje hashtag "#deepfake" ima oko 200 milijuna pregleda), YouTube i drugdje. Bilo da se radi o ispunjavanju fan fictiona i ponovite scene sa zvijezdama žele da je film izvorno glumio ili stavio mrtvu osobu u moderni, viralni meme, deepfakeovi su prihvaćeni kao kreativni izlaz za svrhe koje su prije bile gotovo nemoguće.

Promjena je iznjedrila ligu novih kreatora poput Ctrl Shift Lice, čiji deepfake videi redovito privlače milijune pregleda i često su glavna tema rasprava u kasnonoćnim talk show emisijama.

"To je potpuno novi način stvaranja smiješnih internetskih videa ili pričanja priča kakve nikada prije nismo vidjeli", kaže kreator iz Nizozemske koji stoji iza hita "Osvetnici iz Oza” deepfake klipa koji je tražio da se ne koristi njegovo pravo ime. “To je prekrasna kombinacija fascinacije za A.I. tehnologija i humor.”

Ali postoji prijeteći rizik koji prijeti budućnosti tehnologije deepfakea: njezina narušena reputacija.

S velikom snagom dolazi i velika mogućnost ponovnog postavljanja

Nažalost, osim svog potencijala kao kreativnog alata za dobronamjerne videoumjetnike, deepfakeovi također nose ogroman potencijal za nanošenje štete.

Nedavno studija Dawesovog centra za budući kriminal pri UCL Jill Dando Institutu za sigurnost i znanost o kriminalu označio deepfakes najozbiljnijom prijetnjom omogućenom umjetnom inteligencijom. Sen. Ben Sasse, republikanac iz Nebraske koji je predstavio prijedlog zakona za kriminalizaciju zlonamjernog stvaranja deepfakeova, upozorio prošle godine da bi tehnologija mogla "uništiti ljudske živote", "uzdrmati financijska tržišta", pa čak i "potaknuti vojne sukobe diljem svijeta".

Do neke mjere, ova zabrinutost je opravdana. Uostalom, širenje tehnologije deepfake već je omogućilo stvari poput proizvodnje lažnog sadržaja za odrasle koji prikazuje slavne osobe i realistična imitiranja političara za satiru. Ranije ove godine, Dan Scavino, direktor društvenih mreža Bijele kuće, cvrkutao loše manipulirana snimka, koju je također retvitao predsjednik Donald Trump, Trumpova suparnika Joea Bidena koji traži od ljudi da ponovno izaberu Trumpa.

Međutim, ove ne baš uvjerljive prijevare brzo su razotkrivene prije nego što su dospjele u mase. Što je još važnije, stručnjaci sugeriraju da su deepfake videozapisi do sada imali mali ili nikakav društveni utjecaj i da trenutno ne predstavljaju nikakvu neposrednu prijetnju. Na primjer, istraživanje koje je proveo Osjećaj, tvrtka za kibernetičku sigurnost usmjerena na vizualne prijetnje, tvrdi da je velika većina deepfake videozapisa pornografski (96%) i da se tehnologija tek treba probiti u značajnije dezinformacije kampanje.

Slično, a Izvješće Sveučilišta Georgetown zaključio je da kreatori politike ne bi trebali žuriti, iako su deepfakeovi "impresivna tehnička pothvat". hype jer tehnologija trenutno nije savršena i ne može samo utjecati na događaje u stvarnom svijetu još.

Tvorac koji stoji iza najpopularnijeg deepfake kanala Ctrl Shift Face, čije videe gledaju milijuni, vjeruje da je “histerija” kruženje oko teme deepfake skreće pozornost zakonodavaca sa stvarnih problema, kao što je loše regulirano oglašavanje mreže uključene Facebook koji su zapravo odgovorni za obmanjivanje ljudi.

"Ako ikada bude štetnog deepfakea, Facebook je mjesto gdje će se proširiti", rekao je Ctrl Shift Face u intervjuu za Digital Trends. “U tom slučaju, što je veći problem? Medij ili platforma?"

Vlasnik BabyZone, YouTube gaming kanal s više od pola milijuna pretplatnika koji često pretvara slavne u video igre, ponavlja sličnu zabrinutost: “Mislim da su deepfake tehnologija kao i sve ostale postojeće tehnologije. Mogu se koristiti u dobre i u loše svrhe.”

Pokret za spas deepfakesa

U posljednjih godinu ili dvije, dok vlade i tehnološke tvrtke istražuju moguće rizike ovoga tehnologije, zagovornici deepfake-a pokušavaju otkloniti te zabrinutosti i popraviti javnost tehnologije slika. Reddit zajednice koji nastoje "prilagoditi ovu stigmu" su se pojavili, a neki neovisni istraživači aktivno grade sustave koji mogu uočiti deepfake prije nego postanu viralni.

Roman Mogylnyi, izvršni direktor i suosnivač Reface, hit aplikacije koja vam omogućuje da brzo zamijenite svoje lice u bilo koji GIF, kaže da njegov startup sada razvija alat za otkrivanje koji može otkriti je li video napravljen pomoću Refacea tehnologija. “Vjerujemo da će široki pristup sintetiziranim medijskim alatima poput našeg povećati empatiju čovječanstva i kreativan i pomoći će promijeniti percepciju tehnologije na bolje,” rekao je Mogylnyi za Digital Trendovi.

Eran Dagan, osnivač i izvršni direktor Botike, startupa koji stoji iza popularne aplikacije za zamjenu lica Jiggy, ima sličan stav prema deepfakeovima i vjeruje kako će oni postati sve popularniji, "ljudi će biti puno svjesniji njihove pozitivne upotrebe slučajevima.”

Međutim, s obzirom na potencijalne opasnosti deepfakeova, vjerojatno je da će Kongres na kraju uskočiti. Glavne tehnološke platforme uključujući Facebook, Twitter i YouTube već su ažurirali svoja pravila kako bi označili ili uklonili manipulirane medije koji su osmišljeni da obmanjuju. Više država poput Kalifornija i New York donijeli su zakone koji će kažnjavati kreatore namjerno varljivih deepfakeova, kao i onih puštenih bez pristanka osobe čije se lice koristi.

Treba li regulirati deepfake?

Iako ova pravila isključuju parodijski sadržaj, stručnjaci, bojeći se loše definiranih zakona ili potpune zabrane tehnologije, i dalje vjeruju da bi se Kongres trebao držati podalje od toga i pustiti da se deepfakeovi odvijaju prirodnim tijekom kojim ide svaki novi oblik medija kroz.

David Greene, direktor za građanske slobode u Electronic Frontier Foundation, kaže da “svaki pokušaj Kongresa da regulirati duboke krivotvorine ili stvarno bilo koja vrsta vizualne komunikacije bit će regulacija govora i implicirati Prvog Amandman.

Ti zakoni, dodaje Greene, moraju biti precizni i moraju se - u dobro definiranim i lako razumljivim terminima - baviti štetom koju pokušavaju smanjiti. “Ono što smo do sada vidjeli... regulatorni pokušaji na državnoj razini su nejasni i preširoki zakoni koji nemaju preciznost koju zahtijeva Prvi amandman. Nemaju potrebne iznimke za parodiju i političke komentare.”

Giorgio Patrini, izvršni direktor Sensityja, smatra zabranu algoritama i softvera "besmislenom u eri interneta". Patrini uspoređuje ovu zagonetku sa zlonamjernim softverom zaštitu i kako je gotovo nemoguće stati na kraj svim računalnim virusima ili njihovim autorima, stoga je bolje jednostavno uložiti u anti-malware mehanizme umjesto toga. "Društvo mora izgraditi nove mehanizme za potvrđivanje onoga čemu se može vjerovati i kako spriječiti negativne utjecaje sintetičkog sadržaja na pojedince i organizacije", rekao je.

Tim Whang napisao je u izvješću Sveučilišta Georgetown da s komodificiranjem alata deepfake, tehnologija za otkrivanje i filtriranje automatski će se razviti i postati točniji — čime se neutralizira njihova sposobnost predstavljanja bilo kakve ozbiljne prijetnje.

Microsoftov je nedavno lansirao alat za otkrivanje deepfakea, na primjer, analizira videozapise kako bi vam ponudio ocjenu pouzdanosti koja pokazuje koliko je vjerojatno da je videozapis izmijenjen.

“Deepfakeovi su novi oblik medijske manipulacije, ali nije prvi put da se suočavamo s ovom vrstom izazova. Istražujemo i ulažemo u načine rješavanja problema sintetičkih medija,” rekao je glasnogovornik YouTubea.

Istraživači iza CtrlShiftLab, napredni softver za stvaranje deepfakea koji mnogi YouTuberi, uključujući Ctrl Shift Face, sada koriste također radi na projektima otvorenog koda za podizanje svijesti i izgradnju sveobuhvatnije detekcije usluge.

“Jedini način da se spriječi ovo [deepfake zlouporaba] je uspostaviti projekt otvorenog koda vezan uz deepfake i privući pozornost javnosti. Tako da javni korisnici interneta mogu shvatiti da deepfakeovi postoje,” rekao je Kunlin Liu, jedan od istraživača CtrlShiftLaba, za Digital Trends.

Nekoliko kreatora deepfakea s kojima je Digital Trends razgovarao ostaju optimistični i smatraju da je otpor zemalja protiv deepfakeova preuranjen. Slažu se da će rastuća uloga deepfakea u memovima i kulturi parodije biti ključna u popravljanju loše reputacije ove tehnologije u nastajanju. Sve dok videozapisi imaju odricanje od odgovornosti i platforme ulažu u učinkovitije slojeve detekcije, dodali su, deepfakeovi su tu da ostanu.

“Mislim da se reputacija deepfakea značajno poboljšava. Prije dvije godine riječ deepfake automatski je značila pornografiju”, rekao je kreator Ctrl Shift Face. "Sada, većina ljudi poznaje deepfake zbog ovih zabavnih videa koji kruže internetom."

Preporuke urednika

• Nagrade Digital Trends Tech For Change CES 2023
• U urnebesnom projektu Gucciberg, deepfaked Gucci Mane čita klasične romane
• Kako umjetnici i aktivisti koriste deepfake kao snagu za dobro
• Twitter kreće u zabranu deepfakeova koji 'uzrokuju štetu' uoči izbora 2020
• Kalifornija se obračunava s deepfakeovima za politiku i pornografiju