Kas süvavõltsingud on ohtlikud? Loojad ja reguleerijad ei nõustu

Viimase paari aasta jooksul sügavad võltsingud on kujunenud Interneti uusimaks meemide ja paroodiasisu valikuks.

Lihtne mõista, miks: need võimaldavad loojatel reaalsuse reegleid rikkuda nii, nagu ükski teine ​​​​tehnoloogia varem pole olnud. Läbi sügavvõltsingute maagia saate vaadata Jennifer Lawrence peab kõne Steve Buscemi näo kaudu, näed mida Ryan Reynolds oleks välja näinud nagu Willy Wonka, ja isegi püüda Hitler ja Stalin laulavadVideo Killed The Radio Star duetis.

Asjatundmatute jaoks on sügavvõltstehnika sünteetilise meedia vorm, mis võimaldab kasutajatel kanda kellegi teise näo peale teistsuguse näo viisil, mis on originaalist peaaegu eristamatu. See teeb seda, lugedes hunnikuid andmeid, et mõista näo kontuure ja muid omadusi, et sulanduda ja animeerida see loomulikult stseeniga.

Sel hetkel olete ilmselt kohanud selliseid klippe platvormidel nagu TikTok (kus hashtag "#deepfake" on umbes 200 miljonit vaatamist), YouTube ja mujal. Olgu selleks siis fännikirjanduse täitmine ja tehke uuesti stseene tähtedega nad soovivad, et film oleks algselt valanud või pannud surnud inimese kaasaegsesse viirusmeemi, süvavõltsinguid on kasutatud loomingulise väljundina eesmärkidel, mis varem olid peaaegu võimatud.

See nihe on tekitanud hulga uusi loojaid, nagu Ctrl Shift Nägu, mille sügavvõltsitud videod koguvad regulaarselt miljoneid vaatamisi ja on sageli hilisõhtuste jutusaadete põhiteema.

"See on täiesti uus viis naljakate Interneti-videote tegemiseks või selliste lugude jutustamiseks, mida me pole kunagi varem näinud," ütleb Hollandis asuv hiti looja.Ozi kättemaksjad” deepfake klipp, kes palus tema pärisnime mitte kasutada. "See on A.I jaoks ilus kombinatsioon võlust. tehnoloogia ja huumor.

Kuid on ähvardav oht, mis ohustab süvavõltsitud tehnoloogia tulevikku: selle rikutud maine.

Suure jõuga kaasneb suurepärane taaspostitatavus

Kahjuks on sügavvõltsingutel lisaks oma potentsiaalile heade kavatsustega videokunstnike loomingulise tööriistana ka tohutult kahju teha.

Hiljutine UCL Jill Dando julgeoleku- ja kuritegevuseteaduse instituudi Dawesi tulevikukuritegevuse keskuse uuring märgistatud sügavvõltsingud kõige tõsisemaks A.I-toega ohuks. Sen. Ben Sasse, Nebraska vabariiklane, kes on esitanud seaduseelnõu süvavõltsingute pahatahtliku loomise kriminaliseerimiseks, hoiatas Eelmisel aastal võis tehnoloogia "hävitada inimelusid", "rikkuda finantsturge" ja isegi "ergutada sõjalisi konflikte kogu maailmas".

Teatud määral on need mured õiglased. Lõppude lõpuks on süvavõltsitud tehnoloogia levik juba võimaldanud selliseid asju nagu kuulsusi kujutava täiskasvanutele mõeldud võltssisu tootmine ja poliitikute elutruud kehastused satiiri eesmärgil. Selle aasta alguses andis Valge Maja sotsiaalmeedia direktor Dan Scavino säutsus halvasti manipuleeritud klipp, mille retweetis ka president Donald Trump ja milles Trumpi rivaal Joe Biden palub inimestel Trumpi tagasi valida.

Need vähem veenvad pettused on aga enne massidesse jõudmist kiiresti ümber lükatud. Veelgi olulisem on see, et eksperdid väidavad, et sügavalt võltsitud videotel on seni olnud vähe või üldse mitte mingit ühiskondlikku mõju ja need ei kujuta endast praegu otsest ohtu. Näiteks uuringud, mille viis läbi Tundlikkusvisuaalsetele ohtudele keskendunud küberturvafirma väidab, et enamik süvavõltsitud videoid on pornograafiline (96%) ja et tehnoloogia ei ole veel jõudnud oluliseks desinformatsiooniks kampaaniad.

Samamoodi a Georgetowni ülikooli aruanne järeldasid, et kuigi süvavõltsingud on „muljetavaldav tehniline saavutus“, ei tohiks poliitikakujundajad sellega kiirustada hüpe, kuna tehnoloogia ei ole hetkel täiuslik ega suuda lihtsalt reaalseid sündmusi mõjutada veel.

Populaarseima sügavvõltsitud kanali Ctrl Shift Face, kelle videoid vaatavad miljonid, looja usub "hüsteeriat" Deepfake teema ümber tiirutamine juhib seadusandjate tähelepanu eemale tegelikelt probleemidelt, nagu näiteks halvasti reguleeritud reklaam võrgud sisse lülitatud Facebook kes tegelikult vastutavad inimeste eksitamise eest.

"Kui kunagi juhtub kahjulik sügavvõlts, on Facebook koht, kus see levib," ütles Ctrl Shift Face intervjuus väljaandele Digital Trends. „Mis on sel juhul suurem probleem? Meedium või platvorm?"

Omanik BabyZone, üle poole miljoni tellijaga YouTube'i mängukanal, mis sageli võltsib kuulsusi videoteks mängud, kordab sarnast muret: "Ma arvan, et süvavõltsingud on tehnoloogia nagu kõik muud olemasolevad tehnoloogiaid. Neid saab kasutada nii headel kui ka halbadel eesmärkidel.

Liikumine sügavate võltsingute päästmiseks

Viimase aasta või kahe jooksul, kui valitsused ja tehnoloogiaettevõtted uurivad selle võimalikke riske tehnoloogia, on süvavõltsitud pooldajad püüdnud neid muresid leevendada ja tehnoloogia avalikkust parandada pilt. Redditi kogukonnad Need, mis püüavad "seda häbimärgistamist", on esile kerkinud ja mõned sõltumatud teadlased loovad aktiivselt süsteeme, mis suudavad tuvastada sügavaid võltsinguid enne, kui need levivad.

Roman Mogylnyi, populaarse rakenduse Reface tegevjuht ja kaasasutaja, mis võimaldab teil kiiresti oma näo mis tahes GIF-vormingusse vahetada, ütleb, et tema startup arendab praegu tuvastamistööriista, mis suudab kindlaks teha, kas video tehti Reface'iga tehnoloogia. "Usume, et laiaulatuslik juurdepääs sünteesitud meedia tööriistadele, nagu meie oma, suurendab inimkonna empaatiat ja loomingulisust ja aitab muuta arusaama tehnoloogiast paremaks, ”ütles Mogylnyi Digitalile Trendid.

Populaarse näovahetusrakenduse Jiggy idufirma Botika asutajal ja tegevjuhil Eran Daganil on sarnane väljavaade sügavate võltsingute suhtes ja usub, et kui need muutuvad peavooluks, on inimesed palju teadlikumad nende positiivsest kasutamisest juhtudel."

Arvestades süvavõltsingute võimalikke ohte, on siiski tõenäoline, et Kongress astub lõpuks vahele. Peamised tehnilised platvormid sealhulgas Facebook, Twitter ja YouTube on juba värskendanud oma eeskirju, et märgistada või eemaldada manipuleeritud meedia, mis on mõeldud eksitamiseks. Mitu osariiki meeldib California ja New York on vastu võtnud seaduseelnõud, mis karistavad tahtlikult petlike süvavõltsingute tegijaid, aga ka neid, mis vabastati ilma selle isiku nõusolekuta, kelle nägu kasutatakse.

Kas sügavvõltsinguid tuleks reguleerida?

Kuigi need eeskirjad välistavad paroodiasisu, kardavad eksperdid valesti määratletud seadusi või tehnoloogia täielikku keelustamist, usun endiselt, et Kongress peaks sellest eemale jääma ja laskma sügavvõltsingutel kulgeda loomulikul teel, mida iga uus meediavorm liigub läbi.

Electronic Frontier Foundationi kodanikuvabaduste direktor David Greene ütleb: "Kongressi kõik katsed reguleerida sügavaid võltsinguid või tõesti igasugune visuaalne kommunikatsioon on kõne regulatsioon ja seob esile Esimese Muudatus.

Greene lisab, et need seadused peavad olema täpsed ja peavad – täpselt määratletud ja kergesti mõistetavates terminites – käsitlema kahju, mida nad üritavad vähendada. "See, mida oleme seni näinud … regulatiivsed katsed riigi tasandil on ebamäärased ja ülemäärased seadused, millel ei ole esimese muudatuse täpsust. Nad ei nõua erandeid paroodia ja poliitiliste kommentaaride jaoks.

Sensity tegevjuht Giorgio Patrini leiab, et algoritmide ja tarkvara keeld on Interneti-ajastul mõttetu. Patrini võrdleb seda mõistatust pahavaraga kaitse ja kuidas on peaaegu võimatu teha lõppu kõikidele arvutiviirustele või nende autoritele, seega on parem investeerida lihtsalt pahavaratõrjemehhanismidesse selle asemel. "Ühiskond peab üles ehitama uued mehhanismid, et sertifitseerida seda, mida saab usaldada, ja kuidas vältida sünteetilise sisu negatiivseid mõjusid üksikisikutele ja organisatsioonidele," ütles ta.

Tim Whang kirjutas Georgetowni ülikooli aruandes, et süvavõltsimise tööriistade kaubaks muutmisega on tehnoloogia tuvastamiseks ja filtreerimiseks. see areneb automaatselt välja ja muutub täpsemaks, neutraliseerides seeläbi nende võime esitada tõsiseid ähvardused.

Microsofti hiljuti käivitatud sügavvõltsingute tuvastamise tööriistNäiteks analüüsib videoid, et pakkuda teile usaldusskoori, mis näitab, kui tõenäoline on, et videot muudeti.

„Süvavõltsingud on uus meediaga manipuleerimise vorm, kuid mitte esimene kord, kui oleme seda tüüpi väljakutsetega silmitsi seisnud. Uurime sünteetilise meediaga tegelemise võimalusi ja investeerime sellesse, ”ütles YouTube'i pressiesindaja.

Teadlased taga CtrlShiftLab, täiustatud süvavõltsingute loomise tarkvara, mida paljud YouTube'i kasutajad, sealhulgas Ctrl Shift Face, kasutavad nüüd töötab ka avatud lähtekoodiga projektide kallal, et tõsta teadlikkust ja luua ulatuslikum tuvastamine teenuseid.

"Ainus viis selle [deepfake väärkasutuse] ärahoidmiseks on luua avatud lähtekoodiga süvavõltsinguga seotud projekt ja tõmmata avalikkuse tähelepanu. Nii saavad avalikud võrgusuhtlejad aru saada, et sügavad võltsingud on olemas, ”ütles üks CtrlShiftLabi teadlastest Kunlin Liu väljaandele Digital Trends.

Mitmed süvavõltsingute loojad Digital Trends rääkisid, et nad peaksid jääma optimistlikuks ja leidsid, et riikide tagasilöögid sügavvõltsingutele on ennatlikud. Nad nõustuvad, et deepfake'i kasvav roll meemides ja paroodiakultuuris aitab parandada selle areneva tehnoloogia näruse maine. Nad lisasid, et seni, kuni videotel on lahtiütlused ja platvormid investeerivad tõhusamatesse tuvastamiskihtidesse, on süvavõltsingud siin, et jääda.

«Arvan, et süvavõltsingute maine paraneb oluliselt. Kaks aastat tagasi tähendas sõna deepfake automaatselt pornot,” ütles Ctrl Shift Face’i looja. "Nüüd teavad enamik inimesi sügavvõltsinguid nende meelelahutuslike videote tõttu, mis Internetis ringlevad."

Toimetajate soovitused

• Digital Trendsi Tech For Change CES 2023 auhinnad
• Lõbusas projektis Gucciberg loeb võltsitud Gucci Mane klassikalisi romaane
• Kuidas kunstnikud ja aktivistid kasutavad sügavaid võltsinguid hea jõuna
• Twitter kavatseb enne 2020. aasta valimisi keelata sügavad võltsimised, mis "kahju tekitavad".
• California võitleb poliitika ja porno võltsingute vastu