Miksi Deepfakeista tulee pian yhtä yleisiä kuin Photoshop

Tiesitkö, että voit tehdä syväfake-videon mukavasti kotonasi tai puhelimellasi? Lataa yksi lukuisista kasvojenvaihto- tai syväfake-sovelluksista, jotka ovat satunnaisesti saatavilla paikallisesta sovelluskaupasta ja sinäkin voi vaikuttaa vaaleihin.

Okei, ei oikeastaan, emmekä todellakaan tue sitä. Mutta hype ja huoli ympärillä syvä väärennös teknologian ja sen todellisen väärinkäytön vuoksi, yksinkertainen totuus on, että tämä tekniikka ei ole katoamassa. Itse asiassa siitä tulee yhtä yleistä kuin Photoshop, varsinkin jos sovellusten kehittäjät työskentelevät sen parissa Deepfake techillä on jotain sanottavaa siitä: Saatamme pian nähdä hyperkohdistettuja mainoksia, joissa on omat kasvomme niitä.

Roman Mogylnyi, Ukrainassa toimivan startup-yrityksen RefaceAI: n toimitusjohtaja, kertoi, että he ovat työskennelleet koneoppimisen parissa vuodesta 2011 lähtien, ja vuonna 2014 he päättivät tehdä omia sovelluksiaan deepfake-teknologiaan perustuen. RefaceAI on jo julkaissut Deepfake-valokuvasovelluksen nimeltä Reflect, ja se on julkaisemassa sekä oman video-deepfake -sovelluksensa että verkkopalvelun, joka auttaa tunnistamaan deepfake-videoita.

"Näimme alusta alkaen, että tätä tekniikkaa käytettiin väärin", Mogylnyi sanoi. "Ajattelimme, että voisimme tehdä sen paremmin."

RefaceAI on jo työskennellyt joidenkin elokuvatuotantoyhtiöiden kanssa – vaikka Mogylnyi ei osannut sanoa, mitkä – käyttääkseen teknologiaansa vaihtamaan näyttelijöiden kasvot kehon päälle, paljon halvemmalla kuin mitä olisi ollut lennättää näyttelijät takaisin asettamaan ja kuvaamaan kohtauksia uudelleen kysymys. Tämän, Mogylnyi sanoi, yritys näkee syväväärennösten tulevaisuuden. "Haluamme käyttää sitä markkinointiin, mainosten personointiin, gifeihin, viihdemateriaaliin yleensä", hän sanoi.

Median tulevaisuus

RefaceAI ei ole se yritys, joka yrittää päästä tämän väistämättömän markkinointikäyrän edellä. Carica, Etelä-Koreasta peräisin oleva sovellus, kehittää myös syväväärennös-GIF-tiedostoja ja -videoita, joissa henkilö voi liittää kasvonsa suosittuun reaktio-GIF-tiedostoon lähetettäväksi ystäville ja perheelle. Sovelluksessa on jo ponnahdusikkunoita, jotka yhdistävät käyttäjän kasvot mainoksen valokuvaan tai videoon.

"Haluamme, että yrityksestämme tulee mediayhtiö", Carica-insinööri Joseph Jang kertoi Digital Trendsille. Deepfake on juuri sitä tapaa, jolla ne alkavat. "Uskon, että mediayhtiöt alkavat ottaa tämän ominaisuuden käyttöön. Siitä tulee vaihtoehto, joka sinulla on, aivan kuten a suodattaa. Siitä tulee niin normaalia ihmisille."

Sekä Jang että Mogylnyi käyttivät Photoshopin leviämistä mallina Deepfakesin menevän: niin yleistä, että se on merkityksetöntä, joskin vielä hieman kiistanalaista. Ja molemmille poliittiset ja eettiset ongelmat, jotka on kääritty syvään väärennöksiin, ovat todellakin pelkkää myllyä.

Shamir Allibhai, syväväärennösten havaitsemisalustan Amber Videon toimitusjohtaja, kertoi Digital Trendsille, että hänen ylivoimainen näkemyksensä oli, että deepfake-tekniikka, kuten useimmat muutkin tekniikat, on moraalitonta.

"Se olisi kuin sanoisi, että Microsoft Word on moraaliton ja paha, koska mahdolliset terroristit käyttävät sitä kannattavat väkivaltaista, ääri-ideologiaa, joka innostaa muita kannattamaan väkivaltaista ääri-ideologiaa", hän sanoi. "Näen tämän tekniikan hyvin pitkälti samalla tavalla."

Amber Video on alusta, joka mainostaa palveluitaan taistelevana syväväärennöksiä vastaan ​​"estääkseen petoksia, maineen menetystä ja sidosryhmien epäluottamusta". Allibhai sanoi, ettei tiennyt, oliko hän valmis ostamaan jotain vain siksi, että hänen kasvonsa olivat siinä, mutta hän oli samaa mieltä siitä, että tekniikka tulee lopulta olemaan läpitunkeva.

"Se on peili yhteiskunnalle", hän sanoi. "Näet tämän sellaisissa teknologioissa kuin Twitter-alustalla. Näet ihmiskunnan parhaan ja pahimman meistä. Deepfake-teknologia heijastelee myös yhteiskuntaa. On ihmisiä, jotka käyttävät sitä kevytmieliseen satiiriin ja pilkkaamaan autoritaarisia hallituksia. Mutta yritämme myös ommella kaaosta."

Syväväärennösten aseistaminen

Suurin pelko on edelleen syväväärennösten mahdollinen väärinkäyttö ja aseistautuminen. Kun ne yleistyvät, saatoimme jopa nähdä niitä käytettävän paitsi laajamittaisissa disinformaatiokampanjoissa myös käytännön vitseihin tai lukiokiusaamiseen. Jos tekniikka on tarpeeksi saatavilla, kuka tahansa voi käyttää sitä.

Sekä Carica että RefaceAI ilmoittivat ryhtyvänsä toimenpiteisiin mahdollisen väärinkäytön lieventämiseksi – RefaceAI syväväärennösten havaitsemisverkkopalvelunsa kanssa ja Carica sisällönvalvojat. Koko Carica-yhtiössä on tällä hetkellä vain yhdeksän ihmistä, Jang sanoi, ja he vaihtavat sisällön moderointivelvollisuuksiin.

"Tämä oli todella ensimmäinen kysymys, jonka esitimme itseltämme", sanoi RefaceAI: n Mogylnyi. "Olemme käsitelleet tätä Ukrainan poliittisten skandaalien muodossa jo vuosia. Ymmärrämme, että tekniikkaamme voidaan käyttää väärin. Jopa Photoshoppia voidaan ja on käytetty kiusaamiseen. Mutta toisaalta tarjoamme sille vastalääkkeen. Meillä oli käyttäjiä lataamassa seksuaalista sisältöä sovellukseemme, ja kielsimme nämä käyttäjät heti."

Carica on tarpeeksi pieni sovellus, jonka kanssa heidän on toimittava toistaiseksi. Mutta kaiken kaikkiaan Jang ei ollut huolissaan.

"Tätä tapahtuu kaiken uuden tekniikan kanssa", Jang sanoi. "Ensin se johtuu väärinkäytöstä, mutta sitten sen vaiheen jälkeen se tulee kaikkien saataville ja ihmiset käyttävät sitä normaaleihin asioihin."

Toimittajien suositukset

• Turvarobotit saattavat olla tulossa kouluun lähelläsi
• Amazon käyttää tekoälyä tehdäkseen yhteenvedon tuotearvosteluista
• Amazon suunnittelee "kerran sukupolvessa" muutoksia haulle, paljastaa työpaikkailmoitus
• Nvidian 200 dollarin Jetson Orin Nano -minitietokone on 80 kertaa nopeampi kuin edellinen versio
• Google Smart Canvas integroituu paremmin sovellusten välillä