Kodėl „Deepfakes“ netrukus taps tokia pat įprasta kaip „Photoshop“.

Ar žinojote, kad galite sukurti netikrą vaizdo įrašą patogiai namuose arba telefone? Atsisiųskite vieną iš daugybės veidų keitimo ar padirbtų programų, kurias galite įsigyti iš vietinės programų parduotuvės ir jūs. gali turėti įtakos rinkimams.

Gerai, tikrai ne, ir mes tam tikrai nepritariame. Tačiau ažiotažas ir susirūpinimas aplinkui Deepfake technologija ir labai tikras jos netinkamas naudojimas, paprasta tiesa ta, kad ši technologija niekur nedings. Tiesą sakant, tai taps taip pat įprasta kaip „Photoshop“, ypač jei programų kūrėjai dirba su ja Deepfake tech turi ką pasakyti apie tai: netrukus pamatysime itin tikslinius skelbimus su mūsų pačių veidais juos.

Romanas Mogylnyi, Ukrainoje įsikūrusio startuolio „RefaceAI“ generalinis direktorius, teigė, kad jie su mašininiu mokymusi dirba nuo 2011 m., o 2014 m. nusprendė sukurti savo programas, pagrįstas „deepfake“ technologijomis. „RefaceAI“ jau išleido nuotraukų giliai suklastotą programą pavadinimu „Reflect“ ir netrukus išleis savo vaizdo įrašų padirbinėjimo programą, taip pat žiniatinklio paslaugą, kuri padės aptikti „deepfake“ vaizdo įrašus.

„Nuo pat pradžių matėme, kad ši technologija buvo piktnaudžiaujama“, – sakė Mogylnyi. „Manėme, kad galime tai padaryti geriau“.

„RefaceAI“ jau bendradarbiavo su kai kuriomis filmų gamybos įmonėmis, nors Mogylnyi negalėjo pasakyti, kurios iš jų, kad panaudotų savo technologiją, kad pakeistų aktorių veidai ant kūno dublių, už daug mažesnę kainą nei būtų buvę sugrąžinti aktorius į sceną ir iš naujo nufilmuoti klausimas. Mogylnyi teigimu, tai yra tai, ką bendrovė laiko giliųjų klastotės ateitimi. „Mes norime jį naudoti rinkodarai, skelbimams suasmeninti, gifams, pramoginei medžiagai apskritai“, – sakė jis.

Žiniasklaidos ateitis

„RefaceAI“ nėra ta įmonė, kuri bando aplenkti šią neišvengiamą rinkodaros kreivę. „Carica“, programa, sukurta Pietų Korėjoje, taip pat kuria padirbtus GIF ir vaizdo įrašus, kuriuose žmogus gali įskiepyti savo veidą į populiarų reakcijų GIF ir siųsti draugams ir šeimos nariams. Programėlėje jau yra iššokančių reklamų, kuriose naudotojo veidas įtraukiamas į skelbimo nuotrauką ar vaizdo įrašą.

„Norime, kad mūsų įmonė taptų žiniasklaidos įmone“, – „Digital Trends“ sakė „Carica“ inžinierius Josephas Jangas. Deepfake kaip tik prasideda. „Manau, kad žiniasklaidos įmonės pradės taikyti šią funkciją. Tai taps jūsų pasirinkimu, kaip ir a filtras. Žmonėms tai taps taip įprasta“.

Ir Jang, ir Mogylnyi naudojo „Photoshop“ plitimą kaip pavyzdį, kur jie mato „Deepfakes“ kūrimą: taip įprasta, kad tai nepastebima, nors vis dar yra šiek tiek prieštaringa. Ir jiems abiem politinės ir etinės problemos, apipintos giliomis klastotėmis, iš tikrųjų yra tik paleidimas.

Shamiras Allibhai, giliųjų klastotės aptikimo platformos „Amber Video“ generalinis direktorius, „Digital Trends“ sakė, kad jo svarbiausias požiūris buvo toks, kad „deepfake“ technologija, kaip ir dauguma kitų technologijų, yra amorali.

„Tai būtų tas pats, kas sakyti, kad Microsoft Word yra amoralus, yra blogis, nes potencialūs teroristai tuo pasinaudos remti smurtinę ekstremistinę ideologiją, kuri įkvėps kitus palaikyti smurtinę ekstremistinę ideologiją. sakė. "Aš labai matau šią technologiją panašiai."

„Amber Video“ yra platforma, reklamuojanti savo paslaugas kaip kovojančią su giliomis klastotėmis, kad „užkirstų kelią sukčiavimui, reputacijos praradimui ir suinteresuotųjų šalių nepasitikėjimui“. Allibhai sakė nežinantis, ar yra pasirengęs ką nors nusipirkti vien dėl to, kad ant jo buvo veidas, bet sutiko, kad galiausiai technologija bus persmelkiantis.

„Tai visuomenės veidrodis“, – sakė jis. „Tai matote tokiose technologijose kaip Twitter platforma. Jūs matote geriausius žmonijos dalykus ir blogiausius iš mūsų. Deepfake technologija taip pat atspindės visuomenę. Yra žmonių, kurie jį naudos lengvabūdiškai satyrai ir šaiposi iš autoritarinių režimų. Bet mes taip pat bandysime prisiūti chaosą“.

Giliųjų klastočių ginklavimas

Didžiausia baimė išlieka galimas piktnaudžiavimas ir giliųjų klastotės ginklų panaudojimas. Kai jie tampa vis dažnesni, galėjome net pastebėti, kad jie naudojami ne tik plataus masto dezinformacijos kampanijoms, bet ir praktiniams pokštams ar patyčioms vidurinėje mokykloje. Jei technologija yra pakankamai prieinama, bet kas gali ja naudotis.

Ir „Carica“, ir „RefaceAI“ teigė, kad imasi veiksmų, kad sumažintų galimą piktnaudžiavimą – „RefaceAI“ su giliųjų klastotės aptikimo žiniatinklio paslauga ir „Carica“ su turinio moderatoriais. Visą „Carica“ kompaniją šiuo metu sudaro tik devyni žmonės, sakė Jang, ir jie keičia turinio moderavimo pareigas.

„Tai iš tikrųjų buvo pirmasis klausimas, kurį uždavėme sau“, - sakė „RefaceAI“ Mogylnyi. „Mes jau daugelį metų tai sprendžiame dėl politinių skandalų Ukrainoje. Suprantame, kad mūsų technologija gali būti naudojama netinkamai. Net Photoshop gali ir buvo naudojamas patyčioms. Tačiau, kita vertus, mes suteikiame tam priešnuodį. Turėjome vartotojų įkelti seksualinio turinio į mūsų programą, ir mes tuoj pat uždraudėme tuos vartotojus.

„Carica“ yra pakankamai maža programa, su kuria jie dabar turi dirbti. Tačiau apskritai Jang nesijaudino.

„Taip atsitinka su visomis naujomis technologijomis“, - sakė Jang. „Pirma, tai lemia netinkamas naudojimas, bet po to etapo jis tampa prieinamas visiems ir žmonės jį naudoja įprastiems dalykams.

Redaktorių rekomendacijos

• Apsaugos robotai gali ateiti į mokyklą šalia jūsų
• „Amazon“ diegia AI, kad apibendrintų produktų apžvalgas
• „Amazon“ planuoja „vieną kartą kartoti“ paieškos pakeitimus, atskleidžiama darbo skelbime
• Nvidia 200 USD kainuojantis Jetson Orin Nano mini kompiuteris yra 80 kartų greitesnis nei ankstesnė versija
• „Google Smart Canvas“ užtikrina gilesnę programų integraciją