De ce Deepfake-urile vor fi în curând la fel de banale ca Photoshop

Știați că puteți realiza un videoclip deepfake din confortul propriei case sau de pe telefon? Descărcați una dintre multitudinea de aplicații de schimb de fețe sau de deepfake disponibile în mod obișnuit din magazinul dvs. local de aplicații și de asemenea dvs. poate influența alegerile.

Bine, nu chiar și cu siguranță nu sprijinim asta. Dar în hype și îngrijorare din jur deepfake tehnologie și utilizarea greșită a acesteia, adevărul simplu este că această tehnologie nu dispare. De fapt, va deveni la fel de banal ca Photoshop, mai ales dacă dezvoltatorii de aplicații lucrează tehnologia deepfake are ceva de spus despre asta: am putea vedea în curând reclame hiper-direcționate cu propriile noastre fețe pe lor.

Roman Mogylnyi, CEO-ul RefaceAI, un startup cu sediul în Ucraina, a declarat că lucrează cu învățarea automată din 2011 și s-a orientat spre crearea propriilor aplicații bazate pe tehnologia deepfake în 2014. RefaceAI a lansat deja o aplicație foto-deepfake numită Reflect și este pe punctul de a-și lansa atât propria aplicație video-deepfake, cât și un serviciu web care va ajuta la detectarea videoclipurilor deepfake.

„Am văzut de la bun început că această tehnologie a fost folosită greșit”, a spus Mogylnyi. „Ne-am gândit că o putem face mai bine.”

RefaceAI a lucrat deja cu unele companii de producție de film - deși Mogylnyi nu a putut spune care dintre ele - pentru a-și folosi tehnologia pentru a schimba fețele actorilor se dublează pe corp, la un cost mult mai mic decât ar fi fost să-i duci pe actori înapoi pentru a seta și a reînregistra scenele în întrebare. Acesta, a spus Mogylnyi, este ceea ce compania vede ca viitorul deepfake-urilor. „Vrem să-l folosim pentru marketing, pentru personalizarea reclamelor, pentru gif-uri, pentru materiale de divertisment în general”, a spus el.

Viitorul mass-media

RefaceAI nu este compania care încearcă să treacă înaintea acestei curbe de marketing inevitabile. Carica, o aplicație din Coreea de Sud, dezvoltă, de asemenea, GIF-uri și videoclipuri deepfake în care o persoană își poate grefa chipul pe un GIF de reacție popular pentru a le trimite prietenilor și familiei. Aplicația conține deja reclame pop-up care încorporează fața utilizatorului în fotografia sau videoclipul reclamei.

„Vrem ca compania noastră să devină o companie media”, a spus inginerul Carica Joseph Jang pentru Digital Trends. Deepfake-urile sunt doar modul în care încep. „Cred că companiile media vor începe să adopte această caracteristică. Va deveni o opțiune pe care o aveți, la fel ca un filtru. Va deveni atât de normal pentru oameni.”

Atât Jang, cât și Mogylnyi au folosit proliferarea Photoshop ca model pentru unde văd că se îndreaptă Deepfakes: atât de comun încât să fie neremarcabil, deși încă puțin controversat. Și pentru amândoi, problemele politice și etice învăluite în deepfake-uri sunt într-adevăr pur și simplu.

Shamir Allibhai, CEO-ul platformei de detectare a deepfake-ului Amber Video, a declarat pentru Digital Trends că punctul său de vedere primordial este că tehnologia deepfake, ca majoritatea celorlalte tipuri de tehnologie, este amorală.

„Ar fi ca și cum ai spune că Microsoft Word este imoral, este rău pentru că potențialii teroriști îl vor folosi susține ideologia violentă, extremistă, care îi va inspira pe alții să susțină ideologia extremistă violentă”, el a spus. „Văd foarte mult această tehnologie în același sens.”

Amber Video este o platformă care își promovează serviciile ca combatere a deepfake-urilor pentru a „preveni frauda, ​​pierderea reputației și neîncrederea părților interesate”. Allibhai a spus că nu știe dacă este gata să cumpere ceva doar pentru că avea fața pe el, dar a fost de acord că, în cele din urmă, tehnologia va fi omniprezentă.

„Este o oglindă a societății”, a spus el. „Vedeți acest lucru în tehnologii precum platforma Twitter. Vedeți ce este mai bun din umanitate și ce este mai rău dintre noi. Tehnologia deepfake va oglindi și societatea. Există oameni care îl vor folosi pentru satiră uşoară şi îşi vor bate joc de regimuri autoritare. Dar vom încerca și să coasem haosul.”

Armonizarea deepfake-urilor

Cea mai mare teamă rămâne potențialul abuz și armonizarea deepfake-urilor. Pe măsură ce devin din ce în ce mai frecvente, am putea chiar să le vedem desfășurate nu doar pentru campanii de dezinformare la scară largă, ci și pentru glume practice sau agresiune în liceu. Dacă tehnologia este suficient de accesibilă, oricine o poate folosi.

Atât Carica, cât și RefaceAI au spus că iau măsuri pentru a atenua potențialele abuzuri - RefaceAI cu serviciul său web de detectare a falsurilor profunde și Carica cu moderatori de conținut. Întreaga companie Carica este de doar nouă persoane în acest moment, a spus Jang, și își schimbă sarcinile de moderare a conținutului.

„Aceasta a fost într-adevăr prima întrebare pe care ne-am pus-o”, a spus Mogylnyi de la RefaceAI. „Ne confruntăm cu asta în ceea ce privește scandalurile politice din Ucraina de ani de zile. Înțelegem că tehnologia noastră poate fi folosită greșit. Chiar și Photoshop poate și a fost folosit pentru agresiune. Dar, pe de altă parte, oferim un antidot pentru aceasta. Am avut utilizatorii să încarce conținut sexual în aplicația noastră și i-am interzis acelor utilizatori imediat.”

Carica este o aplicație suficient de mică cu care trebuie să lucreze pentru moment. Dar, în general, Jang nu era îngrijorat.

„Acest lucru se întâmplă cu toată noua tehnologie”, a spus Jang. „În primul rând, este determinat de utilizarea greșită, dar apoi, după acea fază, devine disponibil pentru toată lumea și oamenii îl folosesc pentru lucruri normale.”

Recomandările editorilor

• Roboții de securitate ar putea veni la o școală din apropierea ta
• Amazon implementează AI pentru a rezuma recenziile produselor
• Amazon plănuiește schimbări „o dată-în-o generație” pentru Căutare, arată anunțul de locuri de muncă
• Minicomputerul Nvidia Jetson Orin Nano de 200 USD este de 80 de ori mai rapid decât versiunea anterioară
• Google Smart Canvas obține o integrare mai profundă între aplicații