Tee maailmasta parempi paikka käyttämällä Deepfakesia

Äskettäin julkaistussa videossa jännittyneeltä näyttävä Brett Kavanaugh puhuu Yhdysvaltain kongressin jäsenille. "On aika korjata ennätys", hän aloittaa. Seuraavien minuuttien aikana korkeimman oikeuden tuomari myöntää, että on mahdollista, että hän syyllistyi seksuaaliseen pahoinpitelyyn ja ilmaisee katumusta tavasta, jolla hän vastasi Christine Blasey Fordin väitteisiin todistus. – Otan tästä vastuun ja pyydän anteeksi.

Asia on, että tämä kohtaus ei ole totta. Kuvamateriaali on käsitelty, eikä Kavanaugh koskaan sanonut näitä asioita.

Todellisuudessa Kavanaugh kielsi ja jätti huomiotta syytteet ja näytteli uhria. Yllä kuvattu video on sarjasta syvästi väärennettyjä klippejä, jotka visioivat tulevaisuutta, jossa julkisuus jakautuu Kavanaugh, Alex Jones ja Mark Zuckerberg ottavat vastuun menneisyydestään rikkomukset.

Sarja, jonka nimi on

Syviä laskelmia, on Stephanie Leppin aivotuote – taiteilija, joka pyrkii saamaan aikaan positiivisen muutoksen maailmassa hyödyntämällä deepfake-teknologiaa auttamaan ihmisiä näkemään ja kuvittelemaan parempia versioita itsestään.

Se on ylevä ja hieman abstrakti projekti, mutta Lepp ei ole ponnistelujensa kanssa yksin. Hän kuuluu kasvavaan tekijöiden joukkoon, joka pyrkii käyttämään deepfake-teknologiaa hyvän tekemiseen.

Tee se syvästi, kunnes onnistut

Deepfakesilla on ollut kiistanalainen matka tähän mennessä. Teknologiaa on käytetty laajalti ilkeisiin tarkoituksiin, kuten pornografian luomiseen ja disinformaatiokampanjoihin, joka on saattanut sen tiukan valvonnan alle sekä hallituksilta että teknologiaa pelkääviltä teknologiayrityksiltä aseistamista.

"Koska valtaosa syväväärennöksistä on luonteeltaan pahoja, on ymmärrettävää, että olemme keskittyneet niiden aseistamiseen", Lepp sanoo. "Mutta tämä keskittyminen on estänyt meitä ymmärtämästä heidän prososiaalista potentiaaliaan. Tarkemmin sanottuna syväväärennöksiä voidaan käyttää koulutukseen, terveyteen ja yhteiskunnallisiin muutoksiin."

Hän väittää, että samoin kuin virtuaalitodellisuutta on käytetty auttamaan potilaita toipumaan aivovammoista antaa heidän olla vuorovaikutuksessa virtuaalisten muistojen kanssa, syväväärennöksiä voidaan käyttää trauman psykologiseen parantamiseen uhrit. Kuvittele esimerkiksi skenaario, jossa lääkärit voisivat kirjoittaa syvän väärennöksiä addiktin raittiin tulevaisuuden itsestä ja rohkaista heitä toipumaan.

Konsepti on ainakin teoriassa hyvä. Jonathan Gratch, virtuaalisen ihmistutkimuksen johtaja Etelä-Kalifornian yliopiston luovien teknologioiden instituutissa, on havainnut, että itsesi näkeminen VR: ssä voi olla erittäin motivoivaa ja että samaa käsitettä voidaan helposti soveltaa deepfakeen materiaalia. Hän ehdottaa, että jos potilaan kasvot sekoittuvat hienovaraisesti lääkärin kasvoihin, potilas noudattaisi todennäköisemmin lääkärin neuvoja.

Enemmän kuin meemejä ja väärää tietoa

Huolimatta siitä, että syväväärennösten negatiiviset sovellukset saavat yleensä enemmän huomiota, Leppin kaltaiset positiiviset sovellukset ovat nousussa. Viimeisten parin vuoden aikana tekniikka on ilmestynyt tarinankerronta-, prososiaalisten projektien ja muiden aloilla.

ALS-yhdistyksen Project Revoicemahdollistaa esimerkiksi puhekykynsä menettäneiden amyotrofista lateraaliskleroosia sairastavien potilaiden jatkaa äänensä käyttöä. Miten? Käyttämällä deepfakesia luodaksesi persoonallisia synteettisiä lauluraitoja, joita voidaan soittaa pyynnöstä soundboardin avulla.

Erillisessä projektissa voittoa tavoittelemattomasta malariajärjestöstä Malarian täytyy kuolla, julkkisurheilija David Beckham välitti viestin yhdeksällä eri kielellä (ja äänellä) syväfakoidun äänen ja videon ansiosta, joka sai hänen huulensa vastaamaan sanoja.

Yhdessä erityisen silmiinpistävässä kampanjassa aiemmin vuonna 2020 Massachusetts Institute of Technologyn kehittyneen virtuaalisuuden keskus yritti valistaa yleisöä väärästä tiedosta tuottamalla syvän väärennöksen Yhdysvaltain entisestä presidentistä Richard M. Nixon piti vuonna 1969 kirjoitetun varapuheen siltä varalta, että Apollo 11:n miehistö ei pystyisi palaamaan kuusta.

Tällaiset julkiset ilmoitukset ja tiedotuskampanjat ovat vain jäävuoren huippu. Deepfake-työkalut ovat myös auttaneet yksinkertaistamaan prosesseja viihdeteollisuudessa kuin muuten vaativat huippuluokan laitteita ja aikaa vieviä resursseja, kuten ikääntymisen esto, äänen kloonaus ja paljon muuta lisää. Jokainen kasvot a viimeisin musiikkivideo by The Strokes oli esimerkiksi väärennös, joten yhtyeen noin 40-vuotiaat jäsenet saattoivat näyttää 20-vuotiailta.

Ohad Fried, tietotekniikan vanhempi luennoitsija Israelin monitieteisestä keskuksesta Herzliyasta, sanoo näin Deepfakesin ansiosta "sen, mikä ennen kesti vuosia taiteilijaaikaa, voidaan nyt saavuttaa itsenäisillä pienillä studiot. Tämä on aina hyvä uutinen käyttämämme median monimuotoisuuden ja laadun kannalta.

Kallista vaakaa

Kuitenkin, Deepfake-teknologian potentiaalista vahingoittaa – varsinkin kun se on helpommin saavutettavissa – on edelleen huolenaihe. Thoughtful Technology Projectin perustaja Aviv Ovadya on samaa mieltä siitä, että kyvyllä luoda synteettistä mediaa voi olla "lukuisia positiivisia" vaikutuksia tarinankerrontaan, vammaisille ja mahdollistamalla saumattomamman viestinnän eri kielillä." Mutta samaan aikaan, hän varoittaa, että teknologian siirtyessä valtavirtaan on vielä paljon tilaa vahingolle ja paljon työtä on tehtävä näiden minimoimiseksi. riskejä.

"Jopa nämä positiiviset käyttötapaukset voivat tahattomasti johtaa todelliseen ja merkittävään vahinkoon", hän kertoi Digital Trendsille. "Myös empatiaa luovia otteita taideteoksista voidaan irrottaa kontekstista ja käyttää väärin."

Asiantuntijat ovat toistuvasti soittaneet torveen kanavoida enemmän resursseja havaitsemisohjelmiin ja virallisiin eettisiin ohjeisiin – vaikka oikeudellinen väliintulo voi päätyä estämään sananvapauden. Mutta kukaan ei ole vielä aivan varma siitä, mihin suuntaan syväväärennökset lopulta vievät. Kuten mikä tahansa nouseva teknologia, on kohta, jossa syväväärennökset saavuttavat tasapainon ja vastuun tulee teknologiayritysten, poliittisten päättäjien ja sisällöntuottajien harteille varmistaakseen, että vaaka pysyy kallistuksena hyvään suuntaan.

Ovadya ehdottaa myös, että deepfake-työkalujen saatavuutta suurelle yleisölle rajoitetaan, kunnes tutkijat pystyvät siihen "Vie päätökseen joitakin linnoituksia, joita tarvitsemme suojellaksemme yhteiskuntaamme mahdollisilta negatiivisilta vaikutuksilta vaikutuksia. Tavoitteena pitäisi olla rakentaa tämä teknologia tavalla, joka lieventää kielteisiä vaikutuksia ainakin mahdollisimman paljon."

Toistaiseksi Lepp kuitenkin viettää aikansa keskittyen seuraavaan fake-päähenkilöänsä: Donald Trumpiin ja hänen myönnytyspuheeseensa.

Toimittajien suositukset

• Digital Trendsin Tech For Change CES 2023 -palkinnot
• Viimeistely: Kuinka tiedemiehet antavat roboteille ihmismäisiä tuntoaisteja
• IBM: n uusi akku saattaa ylittää litiumioniakun, eikä se käytä ristiriitamineraaleja
• Odottaa siivillä: kuinka droonit mullistavat taistelun nälkää vastaan
• Stallone Terminator 2:ssa? Kuinka yksi syvän huijari muuttaa elokuvahistoriaa