Sunt Deepfake-urile periculoase? Creatorii și autoritățile de reglementare nu sunt de acord

De-a lungul ultimilor ani, deepfakes au apărut ca cea mai recentă soluție pe internet pentru meme și conținut parodiat.

Este ușor de înțeles de ce: le permit creatorilor să încalce regulile realității ca nicio altă tehnologie până acum. Prin magia deepfake-urilor, poți urmări Jennifer Lawrence ține un discurs prin chipul lui Steve Buscemi, sa vad ce Ryan Reynolds ar fi arătat ca Willy Wonka, și chiar prinde Hitler și Stalin cântândVideo Killed The Radio Star într-un duet.

Pentru cei neinițiați, tehnologia deepfake este o formă de media sintetică care permite utilizatorilor să suprapună o față diferită pe cea a altcuiva într-un mod aproape imposibil de distins de original. Face acest lucru citind grămezi de date pentru a înțelege contururile feței și alte caracteristici pentru a o amesteca și a anima în mod natural în scenă.

În acest moment, probabil că ați întâlnit astfel de clipuri pe platforme precum TikTok (unde hashtag-ul „#deepfake” are aproximativ 200 de milioane de vizualizări), YouTube și în alte părți. Fie că este vorba de a îndeplini fan fiction și reface scene cu stele și-ar fi dorit inițial ca filmul să fi turnat sau să pună o persoană moartă într-o meme modernă, virală, deepfake-urile au fost adoptate ca o ieșire creativă în scopuri care anterior erau aproape imposibile.

Schimbarea a dat naștere la o ligă de noi creatori precum Ctrl Shift Față, ale căror videoclipuri deepfake atrag în mod regulat milioane de vizualizări și sunt adesea subiectul principal de discuție în talk-show-urile de noapte.

„Este un mod cu totul nou de a face videoclipuri amuzante pe internet sau de a spune povești așa cum nu am mai văzut până acum”, spune creatorul din Țările de Jos din spatele hitului „Răzbunătorii din Oz” clip deepfake care a cerut ca numele său real să nu fie folosit. „Este o combinație frumoasă de fascinație pentru A.I. tehnologie și umor.”

Dar există un risc care amenință cu totul viitorul tehnologiei deepfake: reputația sa contaminată.

Cu o mare putere vine o mare repostabilitate

Din păcate, pe lângă potențialul lor ca instrument creativ pentru artiștii video bine intenționați, deepfake-urile au și un potențial extraordinar de a face rău.

Recent studiu realizat de Centrul Dawes pentru Crimă Viitoare de la Institutul de Securitate și Știința Crimei Jill Dando UCL a etichetat deepfakes cea mai gravă amenințare activată de I.A. Sen. Ben Sasse, un republican din Nebraskan care a introdus un proiect de lege pentru a criminaliza crearea rău intenționată de deepfake, avertizat anul trecut, tehnologia ar putea „distruge vieți umane”, „răspunde piețele financiare” și chiar „declanșează conflicte militare în întreaga lume”.

Într-o măsură, aceste preocupări sunt corecte. La urma urmei, proliferarea tehnologiei deepfake a permis deja lucruri precum producerea de conținut fals pentru adulți cu celebrități și uzurparea reală a politicienilor pentru satiră. La începutul acestui an, Dan Scavino, directorul rețelelor sociale de la Casa Albă, a postat pe Twitter un clip prost manipulat, care a fost retweetat și de președintele Donald Trump, în care rivalul lui Trump, Joe Biden, le-a cerut oamenilor să-l realege pe Trump.

Cu toate acestea, aceste farse mai puțin convingătoare au fost rapid dezmințite înainte de a ajunge în masă. Mai important, experții sugerează că videoclipurile deepfake au avut până acum un impact societal redus sau deloc și că în prezent nu reprezintă nicio amenințare iminentă. De exemplu, cercetările efectuate de Sensibilitate, o firmă de securitate cibernetică axată pe amenințările vizuale, susține că marea majoritate a videoclipurilor deepfake sunt pornografice (96%) și că tehnologia încă nu a făcut loc în vreo dezinformare semnificativă campanii.

În mod similar, a Raportul Universității Georgetown a concluzionat că, deși deepfake-urile sunt o „exploatare tehnică impresionantă”, factorii de decizie nu ar trebui să se grăbească hype, deoarece tehnologia nu este perfectă în acest moment și nu poate influența doar evenimentele din lumea reală inca.

Creatorul din spatele celui mai popular canal de deepfake Ctrl Shift Face, ale cărui videoclipuri sunt vizionate de milioane, crede că „isteria” Încercuirea în jurul subiectului deepfake distrage atenția parlamentarilor de la problemele reale, cum ar fi anunțul prost reglementat rețele activate Facebook care sunt de fapt responsabili pentru inducerea în eroare a oamenilor.

„Dacă va exista vreodată un deepfake dăunător, Facebook este locul unde se va răspândi”, a spus Ctrl Shift Face într-un interviu pentru Digital Trends. „În acest caz, care este problema mai mare? Mediul sau platforma?”

Proprietarul BabyZone, un canal de jocuri YouTube cu peste jumătate de milion de abonați, care adesea transformă celebritățile în videoclipuri jocuri, ecou o preocupare similară: „Cred că deepfake-urile sunt o tehnologie ca toate celelalte existente tehnologii. Ele pot fi folosite în scopuri bune și rele.”

Mișcarea de salvare a deepfake-urilor

În ultimii doi ani, guvernele și companiile tehnologice investighează riscurile potențiale ale acestui lucru tehnologie, susținătorii deepfake s-au luptat pentru a atenua aceste preocupări și pentru a repara publicul tehnologiei imagine. comunități Reddit care încearcă să „ajusteze acest stigmat” au apărut, iar unii cercetători independenți construiesc în mod activ sisteme care pot identifica deepfake-urile înainte ca acestea să devină virale.

Roman Mogylnyi, CEO și co-fondator al Reface, o aplicație de succes care vă permite să vă schimbați rapid fața în orice GIF, spune că startup-ul său dezvoltă acum un instrument de detectare care poate spune dacă un videoclip a fost realizat cu Reface tehnologie. „Credem că accesul larg la instrumente media sintetizate precum al nostru va crește empatia umanității și creativitate și va ajuta la schimbarea percepției asupra tehnologiei în mai bine”, a spus Mogylnyi pentru Digital Tendințe.

Eran Dagan, fondatorul și CEO-ul Botika, startup-ul din spatele popularei aplicații de schimb de fețe Jiggy, are o perspectivă similară față de deepfakes și credințe, pe măsură ce devin mai mainstream, „oamenii vor fi mult mai conștienți de utilizarea lor pozitivă cazuri.”

Cu toate acestea, având în vedere potențialele pericole ale deepfake-urilor, este probabil ca Congresul să intervină în cele din urmă. Principalele platforme tehnologice inclusiv Facebook, Twitter și YouTube și-au actualizat deja politicile pentru a semnala sau elimina conținut media manipulat care este conceput pentru a induce în eroare. State multiple cum ar fi California și New York-ul au adoptat proiecte de lege care îi vor pedepsi pe cei care produc deepfake-uri înșelătoare în mod intenționat, precum și pe cei eliberați fără acordul persoanei a cărei față este folosită.

Ar trebui reglementate deepfake-urile?

Deși aceste politici exclud conținutul parodic, experții, temându-se de legi nedefinite sau de interzicerea completă a tehnologiei, încă cred că Congresul ar trebui să rămână în afara ei și să lase deepfakes-ul să urmeze cursul natural pe care îl urmează orice nouă formă de media prin.

David Greene, director pentru libertăți civile la Electronic Frontier Foundation, spune „orice încercare a Congresului de a reglați falsurile profunde sau într-adevăr orice fel de comunicare vizuală va fi o reglementare a vorbirii și va implica pe Primul Amendament.

Aceste legi, adaugă Greene, trebuie să fie precise și trebuie – în termeni bine definiți și ușor de înțeles – să abordeze răul pe care încearcă să le reducă. „Ceea ce am văzut până acum... încercările de reglementare la nivel de stat sunt legi vagi și prea ample, care nu au precizia pe care o cere Primul Amendament. Nu au cerut excepții pentru parodie și comentarii politice.”

Giorgio Patrini, CEO al Sensity, consideră că interzicerea algoritmilor și a software-ului este „fără sens în era internetului”. Patrini compară această enigmă cu malware protecția și modul în care este aproape imposibil să puneți capăt tuturor virușilor informatici sau autorilor lor, deci este mai bine să investiți pur și simplu în mecanisme anti-malware in schimb. „Societatea trebuie să construiască noi mecanisme pentru a certifica ceea ce poate fi de încredere și cum să prevină impactul negativ al conținutului sintetic asupra indivizilor și organizațiilor”, a spus el.

Tim Whang a scris în raportul Universității Georgetown că, odată cu comercializarea instrumentelor de deepfake, tehnologia de detectare și filtrare în mod automat, va evolua și va deveni mai precisă - neutralizându-le astfel capacitatea de a prezenta orice amenințări.

Instrumentul de detectare deepfake lansat recent de Microsoft, de exemplu, analizează videoclipurile pentru a vă oferi un scor de încredere care indică cât de probabil este ca videoclipul să fi fost modificat.

„Deepfake-urile sunt o nouă formă de manipulare media, dar nu este prima dată când ne confruntăm cu acest tip de provocare. Explorăm și investim în modalități de a aborda mass-media sintetică”, a spus un purtător de cuvânt YouTube.

Cercetătorii din spate CtrlShiftLab, un software avansat de creare de deepfake pe care îl folosesc mulți YouTuber, inclusiv Ctrl Shift Face, sunt acum de asemenea, lucrează la proiecte open-source pentru a crește gradul de conștientizare și pentru a construi o detectare mai cuprinzătoare Servicii.

„Singura modalitate de a preveni acest [abuz de deepfake] este de a stabili un proiect open source legat de deepfake și de a atrage atenția publicului. Deci, internauții publici pot realiza că există deepfakes”, a declarat Kunlin Liu, unul dintre cercetătorii CtrlShiftLab, pentru Digital Trends.

Mai mulți creatori de deepfake Digital Trends au vorbit să rămână optimiști și să considere prematură respingerea țărilor împotriva deepfake-urilor. Ei sunt de acord că rolul din ce în ce mai mare al deepfake-ului în meme și cultura parodiilor va fi esențial în repararea reputației proaste a acestei tehnologii emergente. Și atâta timp cât videoclipurile au declinări de răspundere și platformele investesc în straturi de detectare mai eficiente, au adăugat ei, deepfake-urile sunt aici pentru a rămâne.

„Cred că reputația deepfake-urilor se îmbunătățește semnificativ. În urmă cu doi ani, cuvântul deepfake însemna automat porno”, a spus creatorul Ctrl Shift Face. „Acum, majoritatea oamenilor cunosc deepfakes din cauza acestor videoclipuri distractive care circulă pe internet.”

Recomandările editorilor

• Premiile Digital Trends Tech For Change CES 2023
• În hilarul Proiect Gucciberg, un Gucci Mane falsificat citește romane clasice
• Cum artiștii și activiștii folosesc deepfakes-urile ca forță spre bine
• Twitter ia măsuri pentru a interzice deepfake-urile care „provoacă rău” înainte de alegerile din 2020
• California se oprește împotriva deepfake-urilor pentru politică și porno