Ovatko Deepfakes vaarallisia? Tekijät ja sääntelyviranomaiset ovat eri mieltä

Viimeisten vuosien aikana, syvät väärennökset ovat nousseet Internetin uusimmaksi meemi- ja parodiasisällöksi.

On helppo ymmärtää, miksi: Niiden avulla sisällöntuottajat voivat muuttaa todellisuuden sääntöjä paremmin kuin mikään muu tekniikka aiemmin. Deepfakesin taikuuden avulla voit katsella Jennifer Lawrence pitää puheen Steve Buscemin kasvojen kautta, katso mitä Ryan Reynolds olisi näyttänyt Willy Wonkaltaja jopa saalis Hitler ja Stalin laulavatVideo tappoi radiotähden duetossa.

Asiattomille syväfake-tekniikka on synteettisen median muoto, jonka avulla käyttäjät voivat lisätä toisen kasvot toisen päälle tavalla, joka on lähes mahdotonta erottaa alkuperäisestä. Se tekee sen lukemalla kasoja dataa ymmärtääkseen kasvojen ääriviivat ja muut ominaisuudet sulautuakseen ja animoidakseen ne luonnollisesti kohtaukseen.

Tässä vaiheessa olet luultavasti törmännyt tällaisiin leikkeihin alustoilla, kuten TikTok (jossa hashtag "#deepfake" on noin 200 miljoonaa katselukertaa), YouTube ja muualla. Olipa kyseessä fanifiktioiden täyttäminen ja tee uudelleen kohtauksia tähtien kanssa he toivovat, että elokuvassa olisi alun perin näytelty tai laitettu kuollut ihminen moderniin viraaliseen meemiin. Deepfakesia on käytetty luovana kanavana tarkoituksiin, jotka olivat aiemmin lähes mahdottomia.

Muutos on synnyttänyt sarjan uusia luojia, kuten Ctrl Shift Face, jonka deepfake-videot keräävät säännöllisesti miljoonia katselukertoja ja ovat usein pääkeskustelun aihe myöhäisillan keskusteluohjelmissa.

"Se on aivan uusi tapa tehdä hauskoja Internet-videoita tai kertoa tarinoita, joita emme ole koskaan ennen nähneet", sanoo alankomaalainen luoja hitin takana.Ozin kostajat”deepfake clip, joka pyysi, ettei hänen oikeaa nimeään käytetä. "Se on kaunis yhdistelmä kiehtovuutta A.I. tekniikkaa ja huumoria."

Mutta on olemassa uhkaava riski, joka uhkaa syvän väärennösteknologian tulevaisuutta kokonaan: sen pilaantunut maine.

Suurella voimalla tulee suuri uudelleenpostitettavuus

Valitettavasti syväväärennöksillä on sen lisäksi, että ne voivat toimia luovana työkaluna hyvää tarkoittaville videotaiteilijoille, ja niillä on myös valtava potentiaali tehdä vahinkoa.

Viimeaikainen UCL Jill Dandon turvallisuus- ja rikostieteen instituutin Dawes Center for Future Crime -tutkimuksen Deepfake-tekstit on luokiteltu vakavimmaksi A.I: tä tukevaksi uhaksi. Sen. Ben Sasse, nebraskan republikaani, joka on esittänyt lain kriminalisoidakseen syväväärennösten haitallisen luomisen, varoitti Viime vuonna teknologia saattoi "tuhota ihmishenkiä", "rajuuttaa rahoitusmarkkinoita" ja jopa "kiihdyttää sotilaallisia konflikteja ympäri maailmaa".

Jossain määrin nämä huolet ovat oikeudenmukaisia. Deepfake-teknologian yleistyminen on kuitenkin jo mahdollistanut muun muassa julkisuuden henkilöitä sisältävän väärennetyn aikuisviihdesisällön tuotannon ja todentuntuisen poliitikkojen matkimisen satiiria varten. Aiemmin tänä vuonna Dan Scavino, Valkoisen talon sosiaalisen median johtaja, twiittasi huonosti manipuloitu leike, jonka myös presidentti Donald Trump uudelleentwiitti ja jossa Trumpin kilpailija Joe Biden pyytää ihmisiä valitsemaan Trumpin uudelleen.

Nämä vähemmän vakuuttavat huijaukset on kuitenkin nopeasti kumottu ennen kuin ne ovat saavuttaneet massojen. Vielä tärkeämpää on, että asiantuntijat väittävät, että syväfake-videoilla ei ole tähän mennessä ollut juurikaan tai ei ollenkaan yhteiskunnallista vaikutusta, eivätkä ne tällä hetkellä aiheuta välittömiä uhkia. Esimerkiksi tutkimus, jonka on tehnyt Herkkyysvisuaalisiin uhkiin keskittynyt kyberturvayritys väittää, että suurin osa syväväärennösvideoista on pornografista (96 %) ja että teknologia ei ole vielä päässyt merkittävään disinformaatioon kampanjoita.

Vastaavasti a Georgetownin yliopiston raportti päätteli, että vaikka syväväärennökset ovat "vaikuttava tekninen saavutus", poliittisten päättäjien ei pitäisi kiirehtiä niihin hype, koska tekniikka ei ole tällä hetkellä täydellinen eikä voi vaikuttaa todellisiin tapahtumiin vielä.

Suosituimman deepfake-kanavan Ctrl Shift Facen takana oleva luoja, jonka videoita katsovat miljoonat, uskoo "hysteriaan" Deepfake-aiheen kiertäminen kääntää lainsäätäjien huomion pois todellisista ongelmista, kuten huonosti säännellystä mainoksesta verkot päällä Facebook jotka ovat itse asiassa vastuussa ihmisten harhaanjohtamisesta.

"Jos koskaan tapahtuu haitallista syväväärennöstä, Facebook on paikka, jossa se leviää", Ctrl Shift Face sanoi haastattelussa Digital Trendsille. "Mikä siinä tapauksessa on suurempi ongelma? Media vai alusta?"

Omistaja BabyZone, YouTube-pelikanava, jolla on yli puoli miljoonaa tilaajaa ja joka usein huijaa julkkikset videoiksi Pelit, toistaa samanlaisen huolen: "Mielestäni syväväärennökset ovat tekniikka kuin kaikki muutkin olemassa olevat teknologioita. Niitä voidaan käyttää hyviin ja huonoihin tarkoituksiin."

Liike pelastaa syvät väärennökset

Viimeisen vuoden tai kahden aikana, kun hallitukset ja teknologiayritykset tutkivat tämän mahdollisia riskejä Deepfake-puolustajat ovat pyrkineet hälventämään näitä huolenaiheita ja korjaamaan teknologian yleisön. kuva. Reddit-yhteisöt jotka pyrkivät "säätämään tätä stigmaa", ovat tulleet esiin, ja jotkut riippumattomat tutkijat rakentavat aktiivisesti järjestelmiä, jotka voivat havaita syväväärennöksiä ennen kuin ne leviävät viruksen leviämiseen.

Roman Mogylnyi, Refacen toimitusjohtaja ja toinen perustaja. Hittisovellus, jonka avulla voit nopeasti vaihtaa kasvosi mihin tahansa GIF-tiedostoon, sanoo, että hänen startupnsa kehittää nyt tunnistustyökalua, joka voi kertoa, onko video tehty Refacen avulla teknologiaa. "Uskomme, että laaja pääsy syntetisoidun median työkaluihin, kuten meidän, lisää ihmiskunnan empatiaa ja luovuutta ja auttaa muuttamaan käsitystä tekniikasta paremmaksi", Mogylnyi sanoi Digitalille Trendit.

Eran Dagan, Botikan perustaja ja toimitusjohtaja, joka on suositun kasvojenvaihtosovelluksen Jiggyn takana oleva startup-yritys, on samanlainen. syväväärennöksiä kohtaan ja uskoo, että kun niistä tulee enemmän valtavirtaa, "ihmiset ovat paljon tietoisempia niiden positiivisesta käytöstä tapauksia."

Deepfakejen mahdolliset vaarat huomioon ottaen on kuitenkin todennäköistä, että kongressi puuttuu lopulta asiaan. Tärkeimmät tekniset alustat mukaan lukien Facebook, Twitter ja YouTube ovat jo päivittäneet käytäntöjään ilmoittaakseen tai poistaakseen manipuloidun median, joka on suunniteltu harhaanjohtamaan. Useat osavaltiot pitävät Kalifornia ja New York ovat hyväksyneet lakiehdotukset, jotka rankaisevat tahallisesti petollisten syväväärennösten tekijöitä sekä sellaisia, jotka on vapautettu ilman kasvoja käyttävän henkilön lupaa.

Pitäisikö syväväärennöksiä säännellä?

Vaikka nämä käytännöt eivät sisällä parodiasisältöä, asiantuntijat pelkäävät huonosti määriteltyjä lakeja tai tekniikan täydellistä kieltämistä, uskovat edelleen, että kongressin pitäisi pysyä poissa siitä ja antaa deepfakejen kulkea luonnollista kurssia, jota kaikki uudet mediamuodot kulkevat kautta.

David Greene, Electronic Frontier Foundationin kansalaisvapauksien johtaja, sanoo "kaikki kongressin yritykset säännellä syvää väärennöksiä tai oikeastaan ​​kaikenlaista visuaalista kommunikaatiota tulee olemaan puheen säätelyä ja sekaantuu ensimmäiseen Muutos.

Greene lisää, että näiden lakien on oltava tarkkoja, ja niiden on - hyvin määritellyin ja helposti ymmärrettävin termein - puututtava haitoihin, joita ne yrittävät rajoittaa. ”Se, mitä olemme tähän mennessä nähneet… valtion tason sääntelyyritykset ovat epämääräisiä ja liian laajoja lakeja, joilla ei ole ensimmäisen lisäyksen edellyttämää tarkkuutta. He eivät vaadi poikkeuksia parodiaan ja poliittiseen kommentointiin."

Giorgio Patrini, Sensityn toimitusjohtaja, pitää algoritmien ja ohjelmistojen kieltoa "merkeettömänä Internetin aikakaudella". Patrini vertaa tätä ongelmaa haittaohjelmiin suojaus ja kuinka on lähes mahdotonta tehdä loppu kaikista tietokoneviruksista tai niiden tekijöistä, joten on parempi vain investoida haittaohjelmien torjuntamekanismeihin sen sijaan. "Yhteiskunnan on rakennettava uusia mekanismeja, joilla varmentaa, mihin voidaan luottaa ja miten estetään synteettisen sisällön kielteiset vaikutukset yksilöihin ja organisaatioihin", hän sanoi.

Tim Whang kirjoitti Georgetownin yliopiston raportissa, että syväväärennöstyökalujen kaupallistamisen myötä teknologia havaitsee ja suodattaa se kehittyy automaattisesti ja muuttuu tarkemmaksi, mikä neutraloi heidän kykynsä esittää vakavia uhkauksia.

Microsoft lanseerasi hiljattain syvän väärennösten tunnistustyökalun, esimerkiksi analysoi videoita tarjotakseen sinulle luottamuspisteen, joka osoittaa, kuinka todennäköistä on, että videota on muokattu.

"Deepfakes on uusi mediamanipuloinnin muoto, mutta ei ensimmäinen kerta, kun kohtaamme tämäntyyppisen haasteen. Tutkimme ja investoimme tapoihin puuttua synteettiseen mediaan", sanoi YouTuben tiedottaja.

Tutkijat takana CtrlShiftLab, kehittynyt syväväärennösten luomisohjelmisto, jota monet YouTube-käyttäjät, mukaan lukien Ctrl Shift Face, käyttävät työskentelee myös avoimen lähdekoodin projekteissa tietoisuuden lisäämiseksi ja kattavamman havaitsemisen kehittämiseksi palvelut.

"Ainoa tapa estää tämä [deepfake-väärinkäyttö] on perustaa avoimen lähdekoodin syväfakeihin liittyvä projekti ja herättää yleisön huomio. Joten julkiset nettikäyttäjät voivat ymmärtää, että syväväärennöksiä on olemassa", Kunlin Liu, yksi CtrlShiftLabin tutkijoista, kertoi Digital Trendsille.

Useat syvän väärennösten tekijät Digital Trends puhuivat pysyvänsä optimistisina ja pitävänsä maiden vastustusta syväväärennöksiä vastaan ​​ennenaikaisena. He ovat yhtä mieltä siitä, että deepfaken kasvava rooli meemissä ja parodiakulttuurissa auttaa parantamaan tämän nousevan tekniikan surkeaa mainetta. Ja niin kauan kuin videoissa on vastuuvapauslausekkeita ja alustat investoivat tehokkaampiin tunnistustasoihin, he lisäsivät, syväväärennökset ovat tulleet jäädäkseen.

”Uskon, että deepfakejen maine paranee merkittävästi. Kaksi vuotta sitten sana deepfake tarkoitti automaattisesti pornoa", sanoi Ctrl Shift Facen luoja. "Nyt useimmat ihmiset tietävät syväväärennöksiä näiden Internetissä kiertävien viihdyttävien videoiden takia."

Toimittajien suositukset

• Digital Trendsin Tech For Change CES 2023 -palkinnot
• Hullussa Gucciberg-projektissa faked Gucci Mane lukee klassikkoromaaneja
• Kuinka taiteilijat ja aktivistit käyttävät syväväärennöksiä hyvän voimana
• Twitter aikoo kieltää syvät väärennökset, jotka "aiheuttavat vahinkoa" ennen vuoden 2020 vaaleja
• Kalifornia hillitsee politiikan ja pornon väärennöksiä