Zakaj bodo Deepfakes kmalu tako običajni kot Photoshop

Ali ste vedeli, da lahko videoposnetek deepfake naredite iz udobja svojega doma ali na telefonu? Prenesite eno od množice aplikacij za zamenjavo obraza ali deepfake, ki so občasno na voljo v vaši lokalni trgovini z aplikacijami, in tudi vi lahko vpliva na volitve.

V redu, res ne, in tega zagotovo ne podpiramo. Ampak v hype in skrbi okoli deepfake tehnologije in njene zelo resnične zlorabe, preprosta resnica je, da ta tehnologija ne bo izginila. Pravzaprav bo postalo tako običajno kot Photoshop, še posebej, če razvijalci aplikacij delajo na tem deepfake tech ima kaj povedati o tem: Kmalu bi lahko videli hipertargetirane oglase z našimi lastnimi obrazi njim.

Roman Mogylnyi, izvršni direktor RefaceAI, zagonskega podjetja s sedežem v Ukrajini, je dejal, da delajo s strojnim učenjem od leta 2011 in so se leta 2014 usmerili v izdelavo lastnih aplikacij, ki temeljijo na tehnologiji deepfake. RefaceAI je že izdal aplikacijo za globoko ponarejanje fotografij, imenovano Reflect, in je tik pred tem, da izda tako lastno aplikacijo za globoko ponarejanje videoposnetkov kot tudi spletno storitev, ki bo pomagala odkriti globoko ponarejene videoposnetke.

"Že od samega začetka smo videli, da se ta tehnologija zlorablja," je dejal Mogylnyi. "Mislili smo, da bi lahko to naredili bolje."

RefaceAI je že sodeloval z nekaterimi podjetji za filmsko produkcijo – čeprav Mogylnyi ni mogel povedati, s katerimi –, da bi uporabil svojo tehnologijo za zamenjavo obrazov igralcev na telesnih dvojnikih, po ceni, ki je precej nižja od tiste, ki bi bila, če bi igralce odpeljali nazaj na snemanje in ponovno snemanje prizorov v vprašanje. Mogylnyi je dejal, da je to tisto, kar podjetje vidi kot prihodnost globokih ponaredkov. "Uporabiti ga želimo za trženje, za prilagajanje oglasov, za gife, za razvedrilne materiale na splošno," je dejal.

Prihodnost medijev

RefaceAI ni podjetje, ki poskuša prehiteti to neizogibno trženjsko krivuljo. Carica, aplikacija s sedežem v Južni Koreji, prav tako razvija globoko ponarejene GIF-e in videoposnetke, v katerih lahko oseba presadi svoj obraz na priljubljen odzivni GIF, ki ga pošlje prijateljem in družini. Aplikacija že vsebuje pojavne oglase, ki vključijo obraz uporabnika v fotografijo ali video oglasa.

"Želimo, da naše podjetje postane medijsko podjetje," je za Digital Trends povedal inženir Carice Joseph Jang. Deepfake so šele na začetku. »Mislim, da bodo medijska podjetja začela sprejemati to funkcijo. To bo postala možnost, ki jo imate, tako kot a filter. Za ljudi bo to postalo tako normalno.«

Tako Jang kot Mogylnyi sta uporabila širjenje Photoshopa kot model za to, kam vidita Deepfakes: tako pogosta, da ni nič posebnega, čeprav še vedno nekoliko kontroverzna. In za oba so politični in etični problemi, zaviti v globoke ponaredke, v resnici samo poganjanje.

Shamir Allibhai, izvršni direktor platforme za odkrivanje globokih ponaredkov Amber Video, je za Digital Trends povedal, da je njegovo najpomembnejše mnenje, da je tehnologija globokih ponaredkov, tako kot večina drugih vrst tehnologije, nemoralna.

»To bi bilo tako, kot bi rekli, da je Microsoft Word nemoralen, zloben, ker ga bodo potencialni teroristi uporabili za to zagovarjati nasilno, ekstremistično ideologijo, ki bo navdihnila druge, da zagovarjajo nasilno ekstremistično ideologijo," je rekel. "V veliki meri vidim to tehnologijo v istem smislu."

Amber Video je platforma, ki svoje storitve oglašuje kot boj proti globokim ponaredkom, da bi "preprečila goljufije, izgubo ugleda in nezaupanje deležnikov." Allibhai rekel, da ne ve, ali je pripravljen nekaj kupiti samo zato, ker je na tem njegov obraz, vendar se je strinjal, da bo sčasoma tehnologija prodoren.

"To je ogledalo družbe," je dejal. »To vidite v tehnologijah, kot je platforma Twitter. Vidiš najboljše od človeštva in najslabše od nas. Tehnologija Deepfake bo tudi zrcalo družbe. Obstajajo ljudje, ki ga bodo uporabili za lahkotno satiro in norčevanje iz avtoritarnih režimov. Poskušali pa bomo sešiti tudi kaos.”

Uporaba globokih ponaredkov kot orožje

Največji strah ostaja morebitna zloraba in uporaba globokih ponaredkov kot orožje. Ko postajajo vse bolj pogosti, jih lahko celo vidimo, da se uporabljajo ne le za obsežne dezinformacijske kampanje, ampak tudi za praktične šale ali srednješolsko ustrahovanje. Če je tehnologija dovolj dostopna, jo lahko uporablja vsak.

Tako Carica kot RefaceAI sta povedala, da sprejemata ukrepe za ublažitev morebitnih zlorab – RefaceAI s svojo spletno storitvijo za odkrivanje globokih ponaredkov, Carica pa z moderatorji vsebine. Celotno podjetje Carica trenutno sestavlja samo devet ljudi, je dejal Jang, in zamenjajo dolžnosti moderiranja vsebine.

"To je bilo res prvo vprašanje, ki smo si ga zastavili," je dejal Mogylnyi iz RefaceAI. »S tem se v smislu političnih škandalov v Ukrajini ukvarjamo že leta. Zavedamo se, da je naša tehnologija lahko zlorabljena. Tudi Photoshop se lahko uporablja in je bil uporabljen za ustrahovanje. Po drugi strani pa nudimo protistrup za to. Imeli smo uporabnike, ki so naložili spolno vsebino v našo aplikacijo, in te uporabnike smo takoj prepovedali.«

Carica je dovolj majhna aplikacija, s katero morajo za zdaj delati. Toda na splošno Jang ni bil zaskrbljen.

"To se dogaja z vsemi novimi tehnologijami," je dejal Jang. "Najprej ga poganja zloraba, potem pa po tej fazi postane na voljo vsem in ljudje ga uporabljajo za običajne stvari."

Priporočila urednikov

• Varnostni roboti morda prihajajo v šolo v vaši bližini
• Amazon uporablja AI za povzetek ocen izdelkov
• Amazon načrtuje spremembe "enkrat v generaciji" za iskanje, razkriva zaposlitveni oglas
• Nvidijin miniračunalnik Jetson Orin Nano v vrednosti 200 USD je 80-krat hitrejši od prejšnje različice
• Google Smart Canvas dobi globljo integracijo med aplikacijami