Miért lesznek a Deepfakes hamarosan olyan általánosak, mint a Photoshop?

Tudtad, hogy mélyhamisított videót készíthetsz kényelmesen otthonodban vagy telefonon? Töltsd le a rengeteg arccserélő vagy mélyhamisító alkalmazás egyikét, amelyek könnyen elérhetők a helyi alkalmazásboltból, és te is befolyásolhatja a választást.

Oké, nem igazán, és ezt határozottan nem támogatjuk. De a hype és aggodalom körül mélyhamisítás technológia, és annak nagyon is valós visszaélése, az egyszerű igazság az, hogy ez a technológia nem tűnik el. Valójában ez olyan általánossá válik, mint a Photoshop, különösen, ha az alkalmazásfejlesztők dolgoznak rajta A deepfake technek van mit mondania róla: hamarosan láthatunk hipercélzott hirdetéseket saját arcunkkal őket.

Roman Mogylnyi, az ukrajnai székhelyű startup, a RefaceAI vezérigazgatója elmondta, hogy 2011 óta foglalkoznak gépi tanulással, és 2014-ben elhatározták, hogy saját, mélyhamisítású technológián alapuló alkalmazásokat készítsenek. A RefaceAI már kiadott egy fotó-mélyhamisító alkalmazást Reflect néven, és hamarosan kiadja saját videó-deephake alkalmazását, valamint egy webszolgáltatást, amely segít a mélyhamisított videók felismerésében.

„A kezdetektől fogva láttuk, hogy ezzel a technológiával visszaélnek” – mondta Mogylnyi. – Úgy gondoltuk, hogy jobban meg tudjuk csinálni.

A RefaceAI már dolgozott együtt néhány filmgyártó céggel – bár Mogylnyi nem tudta megmondani, melyikkel –, hogy technológiáját felhasználva cserélje ki a filmeket. a színészek arcai a testre, sokkal olcsóbban, mint az lett volna, ha a színészeket visszarepítik, hogy beállítsák és újraforgatják a jeleneteket. kérdés. Mogylnyi szerint ebben látja a cég a deepfake jövőjét. „Marketingre, hirdetések személyre szabására, gifekre, általában szórakoztató anyagokra szeretnénk használni” – mondta.

A média jövője

A RefaceAI nem az a cég, amelyik megpróbál megelőzni ezt az elkerülhetetlen marketinggörbét. A Carica, egy dél-koreai alkalmazás, mélyhamisított GIF-eket és videókat is fejleszt, amelyekben az ember egy népszerű reakció-GIF-re olthatja az arcát, hogy elküldje barátainak és családtagjainak. Az alkalmazás már tartalmaz felugró hirdetéseket, amelyek beépítik a felhasználó arcát a hirdetés fotójába vagy videójába.

„Azt akarjuk, hogy cégünk médiacéggé váljon” – mondta Joseph Jang, a Carica mérnöke a Digital Trendsnek. A mélyhamisítások csak úgy kezdődnek. „Úgy gondolom, hogy a médiavállalatok elkezdik alkalmazni ezt a funkciót. Ez egy olyan lehetőség lesz, mint a szűrő. Ez teljesen normális lesz az emberek számára."

Mind Jang, mind Mogylnyi a Photoshop elterjedését használta modellként arra, hogy hol látják a Deepfakes-t: annyira gyakori, hogy nem figyelemreméltó, ha még mindig egy kicsit ellentmondásos. És mindkettőjük számára a mélyhamisításokba csomagolt politikai és etikai problémák valójában csak a malomból futnak.

Shamir Allibhai, az Amber Video mélyhamisítás-észlelő platform vezérigazgatója a Digital Trends-nek elmondta, hogy mindenekelőtt az volt, hogy a mélyhamisítási technológia, mint a legtöbb más technológia, amorális.

„Olyan ez, mintha azt mondanám, hogy a Microsoft Word erkölcstelen, gonosz, mert a potenciális terroristák ezt fogják használni erőszakos, szélsőséges ideológiát támogatnak, amely másokat is az erőszakos szélsőséges ideológia támogatására ösztönöz” mondott. "Nagyon hasonlónak látom ezt a technológiát."

Az Amber Video egy olyan platform, amely szolgáltatásait a mélyhamisítások elleni küzdelemként hirdeti, hogy „megakadályozza a csalást, a hírnév elvesztését és az érdekelt felek bizalmatlanságát”. Allibhai azt mondta, nem tudja, készen áll-e vásárolni valamit csak azért, mert az arca volt rajta, de egyetértett azzal, hogy végül a technológia átható.

„Ez egy tükör a társadalomban” – mondta. „Ez látható az olyan technológiákban, mint a Twitter platform. Látod az emberiség legjobbjait és a legrosszabbunkat. A mélyhamisítású technológia a társadalmat is tükrözni fogja. Vannak, akik könnyelmű szatírára használják, és az autoriter rezsimet gúnyolják. De megpróbálunk káoszt is varrni.”

Mélyhamisítások fegyverezése

A legnagyobb félelem továbbra is az esetleges visszaélések és a mélyhamisítások fegyveresítése. Ahogy egyre gyakoribbak, láthattuk, hogy nemcsak széles körű dezinformációs kampányokhoz, hanem gyakorlati viccekhez vagy középiskolai zaklatásokhoz is bevetik őket. Ha a technológia kellően hozzáférhető, bárki használhatja.

A Carica és a RefaceAI is azt mondta, hogy lépéseket tesznek az esetleges visszaélések mérséklésére – a RefaceAI mélyhamisítás-észlelő webszolgáltatásával, a Carica pedig tartalommoderátorokkal. Az egész Carica cég jelenleg csak kilenc emberből áll, mondta Jang, és lecserélik a tartalom moderálási feladatait.

„Valójában ez volt az első kérdés, amit feltettünk magunknak” – mondta Mogylnyi, a RefaceAI munkatársa. „Évek óta foglalkozunk ezzel az ukrajnai politikai botrányokkal. Tisztában vagyunk vele, hogy a technológiánkat vissza lehet használni. Még a Photoshopot is lehet és használták zaklatásra. De másrészt ellenszert adunk rá. Voltak felhasználók, akik szexuális tartalmat töltöttek fel az alkalmazásunkba, és ezeket a felhasználókat azonnal kitiltottuk.”

A Carica egy elég kicsi alkalmazás, amivel egyelőre dolgozniuk kell. De összességében Jang nem aggódott.

"Ez minden új technológiával megtörténik" - mondta Jang. „Először a helytelen használat vezérli, majd ezt követően mindenki számára elérhetővé válik, és az emberek normál dolgokra használják.”

Szerkesztői ajánlások

• Biztonsági robotok érkezhetnek egy közeli iskolába
• Az Amazon mesterséges intelligenciát alkalmaz a termékértékelések összefoglalására
• Az Amazon „egyszer a nemzedékben” változtatásokat tervez a Keresésben – derül ki az álláshirdetésből
• Az Nvidia 200 dolláros Jetson Orin Nano miniszámítógépe 80-szor gyorsabb, mint az előző verzió
• A Google Smart Canvas mélyebb integrációt biztosít az alkalmazások között