Vai Deepfakes ir bīstamas? Radītāji un regulatori nepiekrīt

Dažu pēdējo gadu laikā dziļi viltojumi ir kļuvuši par interneta jaunāko mēmu un parodiju satura meklēšanu.

Ir viegli saprast, kāpēc: tie ļauj satura veidotājiem mainīt realitātes noteikumus kā neviena cita tehnoloģija. Izmantojot dziļo viltojumu burvību, jūs varat skatīties Dženifera Lorensa uzstājas ar runu Stīva Busemi sejā, redzēt ko Raiens Reinoldss būtu izskatījies kā Villijs Vonka, un pat nozvejas Hitlers un Staļins dziedVideo Killed The Radio Star duetā.

Nezinātājiem dziļās viltus tehnoloģijas ir sintētisko datu nesēju veids, kas ļauj lietotājiem uzklāt cita veida seju tādā veidā, kas gandrīz neatšķiras no oriģināla. Tas tiek darīts, nolasot kaudzes datu, lai izprastu sejas kontūras un citas īpašības, lai dabiski saplūstu un animētu to ainā.

Šobrīd jūs, iespējams, esat saskāries ar šādiem klipiem tādās platformās kā TikTok (kur tēmturim “#deepfake” ir aptuveni 200 miljoni skatījumu), YouTube un citur. Neatkarīgi no tā, vai tas ir piepildīts ar fanu fantastiku un pārtaisīt ainas ar zvaigznēm viņi vēlas, lai filma sākotnēji būtu iemiesota vai ievietota mirušā cilvēka modernā, vīrusu mēmā, dziļi viltojumi ir izmantoti kā radošs noiets mērķiem, kas iepriekš bija gandrīz neiespējami.

Pārmaiņa ir radījusi tādu jaunu veidotāju līgu kā Ctrl Shift Seja, kuras viltus video regulāri piesaista miljoniem skatījumu un bieži vien ir galvenā diskusiju tēma vēlu vakara sarunu šovos.

"Tas ir pilnīgi jauns veids, kā veidot smieklīgus interneta videoklipus vai stāstīt tādus stāstus, kādus mēs vēl nekad neesam redzējuši," saka Nīderlandē dzīvojošais hita autors.Oza atriebēji” deepfake klips, kurš lūdza neizmantot viņa īsto vārdu. “Tā ir skaista aizraušanās kombinācija A.I. tehnoloģijas un humors.

Taču pastāv risks, kas pilnībā apdraud dziļo viltojumu tehnoloģiju nākotni: tās sabojātā reputācija.

Ar lielu spēku nāk lieliska pārsūtāmība

Diemžēl dziļi viltojumi papildus to potenciālam kā radošam rīkam labiem video māksliniekiem ir arī milzīgs potenciāls nodarīt kaitējumu.

Nesens pētījums, ko veica Davesas Nākotnes noziegumu centrs UCL Džila Dando Drošības un noziedzības zinātnes institūtā Deepfakes tika apzīmētas kā visnopietnākais AI iespējots apdraudējums. Sen. Bens Sasse, Nebraskas republikānis, kurš ir iesniedzis likumprojektu, kas paredz kriminālatbildību par ļaunprātīgu dziļo viltojumu izveidi, brīdināja pagājušajā gadā, ka tehnoloģija varēja "iznīcināt cilvēku dzīvības", "iznīcināt finanšu tirgus" un pat "veicināt militārus konfliktus visā pasaulē".

Zināmā mērā šīs bažas ir pamatotas. Galu galā dziļo viltojumu tehnoloģiju izplatība jau ir ļāvusi radīt viltotu pieaugušajiem paredzētu saturu, kurā attēlotas slavenības, un reālistisku uzdošanos par politiķiem satīras nolūkos. Šī gada sākumā Baltā nama sociālo mediju direktors Dens Skavino, tvītoja slikti manipulēts klips, ko retvītoja arī prezidents Donalds Tramps un kurā Trampa sāncensis Džo Baidens lūdz cilvēkus pārvēlēt Trampu.

Tomēr šie mazāk nekā pārliecinošie māņi tika ātri atmaskoti, pirms tie sasniedza masu. Vēl svarīgāk ir tas, ka eksperti norāda, ka dziļi viltotiem videoklipiem līdz šim ir bijusi maza vai vispār nav bijusi ietekme uz sabiedrību un tie pašlaik nerada tiešus draudus. Piemēram, pētījumi, ko veica Jutīgums, kiberdrošības uzņēmums, kas koncentrējas uz vizuāliem draudiem, apgalvo, ka lielākā daļa dziļi viltoto videoklipu ir pornogrāfiska (96%) un ka tehnoloģija vēl nav nonākusi jebkādā būtiskā dezinformācijā kampaņas.

Līdzīgi, a Džordžtaunas universitātes ziņojums secināja, ka, lai gan dziļās viltošanas ir "iespaidīgs tehnisks varoņdarbs", politikas veidotājiem nevajadzētu steigties ažiotāža, jo tehnoloģija šobrīd nav ideāla un nevar ietekmēt reālās pasaules notikumus vēl.

Populārākā dziļo viltojumu kanāla Ctrl Shift Face veidotājs, kura videoklipus skatās miljoniem cilvēku, uzskata "histēriju" riņķošana ap dziļo viltojumu tēmu novērš likumdevēju uzmanību no patiesajām problēmām, piemēram, slikti regulētās reklāmas tīkli ieslēgti Facebook kas patiesībā ir atbildīgi par cilvēku maldināšanu.

"Ja kādreiz notiks kaitīgs viltojums, Facebook ir vieta, kur tas izplatīsies," intervijā Digital Trends sacīja Ctrl Shift Face. “Kas tādā gadījumā ir lielāka problēma? Vide vai platforma?

Īpašnieks BabyZone, YouTube spēļu kanāls ar vairāk nekā pusmiljonu abonentu, kas bieži vien ievilina slavenības videoklipos spēles, sasaucas ar līdzīgām bažām: “Es domāju, ka dziļi viltojumi ir tehnoloģija, tāpat kā visas pārējās esošās tehnoloģijas. Tos var izmantot labiem un sliktiem mērķiem.

Kustība dziļo viltojumu glābšanai

Pēdējā gada vai divu laikā, kad valdības un tehnoloģiju uzņēmumi pēta iespējamos riskus tehnoloģiju, dziļo viltojumu aizstāvji ir centušies kliedēt šīs bažas un labot tehnoloģiju sabiedrību. attēlu. Reddit kopienas Ir parādījušies tie, kas cenšas “pielāgot šo stigmu”, un daži neatkarīgi pētnieki aktīvi veido sistēmas, kas var pamanīt dziļos viltojumus, pirms tie kļūst par vīrusu.

Romāns Mogiļnijs, Reface izpilddirektors un līdzdibinātājs — populāra lietotne, kas ļauj ātri nomainīt seju uz jebkuru GIF, saka, ka viņa starta uzņēmums tagad izstrādā noteikšanas rīku, kas var noteikt, vai videoklips tika uzņemts, izmantojot Reface tehnoloģija. "Mēs uzskatām, ka plaša piekļuve tādiem sintezētu mediju rīkiem kā mūsu, palielinās cilvēces empātiju un radošumu un palīdzēs uzlabot priekšstatu par tehnoloģiju, ”Mogylnyi sacīja Digital Tendences.

Eranam Daganam, Botika dibinātājam un izpilddirektoram, kas ir populārās seju maiņas lietotnes Jiggy startup, ir līdzīgas perspektīvas. pret dziļiem viltojumiem un uzskata, ka, kad tie kļūst arvien populārāki, "cilvēki daudz vairāk apzinās to pozitīvo izmantošanu gadījumiem.”

Tomēr, ņemot vērā dziļo viltojumu iespējamās briesmas, iespējams, ka Kongress galu galā iesaistīsies. Galvenās tehnoloģiju platformas tostarp Facebook, Twitter un YouTube jau ir atjauninājuši savas politikas, lai atzīmētu vai noņemtu manipulētus multividi, kas ir paredzēti maldināšanai. Vairāki štati patīk Kalifornija un Ņujorka ir pieņēmuši likumprojektus, kas sodīs tīši maldinošu dziļo viltojumu veidotājus, kā arī tādus, kas atbrīvoti bez tās personas piekrišanas, kuras seja tiek izmantota.

Vai dziļi viltojumi ir jāregulē?

Lai gan šīs politikas izslēdz parodiju saturu, eksperti, baidoties no nepareizi definētiem likumiem vai pilnīgas tehnoloģijas aizlieguma, joprojām uzskata, ka Kongresam vajadzētu palikt ārpus tā un ļaut viltojumiem vadīt dabisko kursu, ko iet jebkura jauna veida plašsaziņas līdzekļi cauri.

Deivids Grīns, Electronic Frontier Foundation pilsonisko brīvību direktors, saka "jebkurš Kongresa mēģinājums regulēt dziļus viltojumus vai tiešām jebkāda veida vizuālo komunikāciju būs runas regulējums un iejauksies Pirmā Grozījumi.

Grīns piebilst, ka šiem likumiem ir jābūt precīziem, un tiem — labi definētos un viegli saprotamos terminos — jārisina kaitējums, ko tie cenšas samazināt. “Tas, ko mēs esam redzējuši līdz šim … regulēšanas mēģinājumi valsts līmenī ir neskaidri un pārāk plaši likumi, kuriem nav tādas precizitātes, kādu prasa pirmais grozījums. Viņiem nav nepieciešami izņēmumi parodijām un politiskiem komentāriem.

Sensity izpilddirektors Džordžo Patrīni uzskata, ka algoritmu un programmatūras aizliegums interneta laikmetā nav jēgas. Patrīni salīdzina šo mīklu ar ļaunprātīgu programmatūru aizsardzība un kā gandrīz neiespējami izbeigt visus datorvīrusus vai to autorus, tāpēc labāk vienkārši ieguldīt pretļaunatūras mehānismos vietā. "Sabiedrībai ir jāveido jauni mehānismi, lai apliecinātu, kam var uzticēties, un kā novērst sintētiskā satura negatīvo ietekmi uz indivīdiem un organizācijām," viņš teica.

Tims Vans Džordžtaunas universitātes ziņojumā rakstīja, ka līdz ar dziļo viltojumu rīku pārveidošanu, tehnoloģija, kas ļauj noteikt un filtrēt tas automātiski attīstīsies un kļūs precīzāks, tādējādi neitralizējot viņu spēju parādīt jebkādu nopietnu draudiem.

Microsoft nesen laida klajā dziļo viltojumu noteikšanas rīku, piemēram, analizē videoklipus, lai piedāvātu ticamības rādītāju, kas norāda, cik liela ir iespējamība, ka videoklips ir mainīts.

“Deepfakes ir jauns mediju manipulācijas veids, taču ne pirmo reizi saskaramies ar šāda veida izaicinājumiem. Mēs pētām un ieguldām veidus, kā risināt sintētisko mediju,” sacīja YouTube pārstāvis.

Pētnieki aiz muguras CtrlShiftLab, uzlabota dziļo viltojumu izveides programmatūra, ko izmanto daudzi YouTube lietotāji, tostarp Ctrl Shift Face strādā arī pie atvērtā pirmkoda projektiem, lai palielinātu izpratni un izveidotu visaptverošāku noteikšanu pakalpojumus.

“Vienīgais veids, kā novērst šo [dziļās viltošanas ļaunprātīgu izmantošanu], ir izveidot ar atklātā koda dziļo viltojumu saistītu projektu un piesaistīt sabiedrības uzmanību. Tātad publiskie interneta lietotāji var apzināties, ka pastāv dziļi viltojumi,” izdevumam Digital Trends sacīja Kunlins Liu, viens no CtrlShiftLab pētniekiem.

Vairāki dziļo viltojumu veidotāji Digital Trends runāja par to, lai saglabātu optimismu un uzskatītu, ka valstis ir pāragras pret viltus viltojumu. Viņi ir vienisprātis, ka Deepfake pieaugošā loma mēmēs un parodiju kultūrā būs noderīga šīs jaunās tehnoloģijas nežēlīgās reputācijas labošanā. Viņi piebilda, ka tik ilgi, kamēr videoklipiem ir atrunas un platformas iegulda līdzekļus efektīvākos noteikšanas slāņos, dziļi viltojumi ir šeit, lai paliktu.

“Domāju, ka dziļo viltojumu reputācija ievērojami uzlabojas. Pirms diviem gadiem vārds deepfake automātiski nozīmēja porno,” sacīja Ctrl Shift Face veidotājs. "Tagad lielākā daļa cilvēku zina dziļos viltojumus šo izklaidējošo videoklipu dēļ, kas cirkulē internetā."

Redaktoru ieteikumi

• Digital Trends' Tech For Change CES 2023 balvas
• Jautrajā Gucciberg projektā viltus Gucci Mane lasa klasiskus romānus
• Kā mākslinieki un aktīvisti izmanto viltojumus kā spēku uz labu
• Twitter pirms 2020. gada vēlēšanām cenšas aizliegt viltojumus, kas “nodara kaitējumu”.
• Kalifornija cīnās pret viltojumiem politikā un pornogrāfijā