Kāpēc Deepfakes drīz būs tikpat izplatīta parādība kā Photoshop

Vai zinājāt, ka varat izveidot viltotu videoklipu, ērti atrodoties mājās vai tālrunī? Lejupielādējiet kādu no daudzajām sejas apmaiņas vai dziļās viltošanas lietotnēm, kas ir pieejamas vietējā lietotņu veikalā, un arī jūs var ietekmēt vēlēšanas.

Labi, nē, un mēs noteikti to neatbalstām. Bet ažiotāža un bažas apkārt deepfake tehnoloģiju un tās ļoti reālu ļaunprātīgu izmantošanu, vienkāršā patiesība ir tāda, ka šī tehnoloģija nepazudīs. Patiesībā tas kļūs tikpat ikdienišķs kā Photoshop, it īpaši, ja pie tā strādās lietotņu izstrādātāji Deepfake tech ir kaut kas sakāms par to: mēs drīz varētu redzēt īpaši mērķētas reklāmas ar mūsu pašu sejām viņiem.

Romāns Mogylnijs, Ukrainā bāzētā jaunuzņēmuma RefaceAI izpilddirektors, sacīja, ka viņi strādā ar mašīnmācīšanos kopš 2011. gada un 2014. gadā ir nolēmis izveidot savas lietotnes, kuru pamatā ir dziļās viltus tehnoloģijas. RefaceAI jau ir izlaidusi fotoattēlu dziļu viltojumu lietotni ar nosaukumu Reflect un gatavojas izlaist gan savu video-deepfake lietotni, gan tīmekļa pakalpojumu, kas palīdzēs atklāt dziļi viltotus videoklipus.

"Mēs jau no paša sākuma redzējām, ka šī tehnoloģija tiek ļaunprātīgi izmantota," sacīja Mogylnyi. "Mēs domājām, ka varam to izdarīt labāk."

RefaceAI jau ir sadarbojies ar dažām filmu ražošanas kompānijām, lai gan Mogylnyi nevarēja pateikt, kuras no tām, lai izmantotu savu tehnoloģiju, lai nomainītu aktieru sejas uz ķermeņa dubultniekiem, par daudz mazāku cenu, nekā būtu bijusi aktieru aizlidošana atpakaļ, lai uzņemtu un atkārtoti uzņemtu ainas jautājums. To, Mogylnyi teica, uzņēmums uzskata par dziļo viltojumu nākotni. "Mēs vēlamies to izmantot mārketingam, reklāmu personalizēšanai, gifiem, izklaides materiāliem kopumā," viņš teica.

Mediju nākotne

RefaceAI nav uzņēmums, kas cenšas tikt priekšā šai neizbēgamajai mārketinga līknei. Carica, Dienvidkorejas lietojumprogramma, arī izstrādā dziļi viltotus GIF un videoklipus, kuros cilvēks var uzpotēt savu seju populārā reakcijas GIF formātā, ko nosūtīt draugiem un ģimenei. Lietotnē jau ir uznirstošās reklāmas, kas iekļauj lietotāja seju reklāmas fotoattēlā vai videoklipā.

"Mēs vēlamies, lai mūsu uzņēmums kļūtu par mediju uzņēmumu," Carica inženieris Džozefs Jangs pastāstīja Digital Trends. Deepfakes ir tikai veids, kā tās sākt. "Es domāju, ka mediju uzņēmumi sāks pieņemt šo funkciju. Tas kļūs par jums pieejamu iespēju, tāpat kā a filtru. Cilvēkiem tas kļūs tik normāli.

Gan Jangs, gan Mogylnyi izmantoja Photoshop izplatību kā paraugu, kur viņi redz Deepfakes. Un viņiem abiem politiskās un ētiskās problēmas, kas ietītas dziļos viltojumos, patiesībā ir tikai novārtājušās.

Dziļās viltojumu noteikšanas platformas Amber Video izpilddirektors Šamirs Allibajs izdevumam Digital Trends sacīja, ka viņa galvenais uzskats ir tāds, ka dziļo viltojumu tehnoloģija, tāpat kā vairums citu tehnoloģiju veidu, ir amorāla.

“Tas būtu tāpat kā teikt, ka Microsoft Word ir amorāls, ļauns, jo potenciālie teroristi to izmantos atbalstīt vardarbīgu, ekstrēmistisku ideoloģiju, kas iedvesmos citus atbalstīt vardarbīgu ekstrēmistu ideoloģiju," viņš teica. "Es ļoti redzu šo tehnoloģiju tādā pašā veidā."

Amber Video ir platforma, kas reklamē savus pakalpojumus kā cīņu pret viltojumiem, lai “novērstu krāpšanu, reputācijas zaudēšanu un ieinteresēto pušu neuzticēšanos”. Allibhai teica, ka nezina, vai ir gatavs kaut ko pirkt tikai tāpēc, ka uz tā bija redzama viņa seja, taču viņš piekrita, ka galu galā tehnoloģija būs caurstrāvojošs.

"Tas ir sabiedrības spogulis," viņš teica. "Jūs to redzat tādās tehnoloģijās kā Twitter platforma. Jūs redzat labāko no cilvēces un sliktākajiem no mums. Deepfake tehnoloģija atspoguļos arī sabiedrību. Ir cilvēki, kas to izmantos vieglprātīgai satīrai un ņirgājoties par autoritāriem režīmiem. Bet mēs arī mēģināsim uzšūt haosu.”

Dziļu viltojumu apbruņošana

Lielākās bailes joprojām ir iespējama ļaunprātīga izmantošana un dziļo viltojumu ierocis. Tā kā tie kļūst arvien izplatītāki, mēs pat varējām redzēt, ka tie tiek izmantoti ne tikai plaša mēroga dezinformācijas kampaņām, bet arī praktiskiem jokiem vai iebiedēšanai vidusskolā. Ja tehnoloģija ir pietiekami pieejama, to var izmantot ikviens.

Gan Carica, gan RefaceAI paziņoja, ka veic pasākumus, lai mazinātu iespējamo ļaunprātīgo izmantošanu — RefaceAI ar dziļo viltojumu noteikšanas tīmekļa pakalpojumu un Carica ar satura moderatoriem. Visā Carica uzņēmumā šobrīd ir tikai deviņi cilvēki, sacīja Jangs, un viņi izmaina satura regulēšanas pienākumus.

"Šis patiešām bija pirmais jautājums, ko sev uzdevām," sacīja RefaceAI Mogylnyi. “Mēs esam ar to nodarbojušies saistībā ar politiskajiem skandāliem Ukrainā gadiem. Mēs saprotam, ka mūsu tehnoloģiju var izmantot ļaunprātīgi. Pat Photoshop var un ir izmantots iebiedēšanai. Bet, no otras puses, mēs tam nodrošinām pretlīdzekli. Lietotāji mūsu lietotnē augšupielādēja seksuālu saturu, un mēs nekavējoties aizliedzām šos lietotājus.

Carica ir pietiekami maza lietotne, ar kuru viņiem pašlaik ir jāstrādā. Bet kopumā Jang neuztraucās.

"Tas notiek ar visām jaunajām tehnoloģijām," sacīja Jangs. "Pirmkārt, to izraisa nepareiza lietošana, bet pēc tam tas kļūst pieejams ikvienam, un cilvēki to izmanto normālām lietām."

Redaktoru ieteikumi

• Drošības roboti varētu ierasties skolā netālu no jums
• Amazon izvieto AI, lai apkopotu produktu pārskatus
• Amazon plāno "vienreiz paaudzē" izmaiņas meklēšanai, atklāj darba sludinājumi
• Nvidia 200 $ Jetson Orin Nano minidators ir 80 reizes ātrāks nekā iepriekšējā versija
• Google Smart Canvas nodrošina dziļāku lietotņu integrāciju