Perché i Deepfake saranno presto comuni come Photoshop

Sapevi che puoi realizzare un video deepfake comodamente da casa tua o dal tuo telefono? Scarica una delle tantissime app per lo scambio di volti o i deepfake disponibili casualmente nel tuo app store locale e anche tu può influenzare un'elezione.

Ok, non proprio, e sicuramente non lo approviamo. Ma nel clamore e nella preoccupazione in giro deepfake tecnologia e il suo vero e proprio uso improprio, la semplice verità è che questa tecnologia non scomparirà. In effetti, diventerà un luogo comune quanto Photoshop, soprattutto se gli sviluppatori di app ci lavorano La tecnologia deepfake ha qualcosa da dire al riguardo: presto potremmo vedere annunci iper-mirati con i nostri volti loro.

Roman Mogylnyi, CEO di RefaceAI, una startup con sede in Ucraina, ha affermato che lavorano con l'apprendimento automatico dal 2011 e nel 2014 hanno deciso di creare le proprie app basate sulla tecnologia deepfake. RefaceAI ha già rilasciato un'app per deepfake di foto chiamata Reflect, ed è sul punto di rilasciare sia la propria app per deepfake di video, sia un servizio web che aiuterà a rilevare i video deepfake.

"Abbiamo visto fin dall'inizio che questa tecnologia veniva utilizzata in modo improprio", ha detto Mogylnyi. “Pensavamo di poterlo fare meglio.”

RefaceAI ha già collaborato con alcune società di produzione cinematografica – anche se Mogylnyi non è in grado di dire quali – per utilizzare la sua tecnologia per scambiare i volti degli attori su controfigure, a un costo molto inferiore a quello che sarebbe stato quello di riportare gli attori sul set e girare nuovamente le scene in domanda. Questo, ha detto Mogylnyi, è ciò che l’azienda vede come il futuro dei deepfake. "Vogliamo usarlo per il marketing, per personalizzare gli annunci, per le gif, per i materiali di intrattenimento in generale", ha detto.

Il futuro dei media

RefaceAI non è l’azienda che cerca di anticipare questa inevitabile curva di marketing. Carica, un'app con sede nella Corea del Sud, sta anche sviluppando GIF e video deepfake in cui una persona può innestare il proprio volto su una popolare GIF di reazione da inviare ad amici e familiari. L’app presenta già annunci pop-up che incorporano il volto dell’utente nella foto o nel video dell’annuncio.

"Vogliamo che la nostra azienda diventi una società di media", ha dichiarato a Digital Trends l'ingegnere della Carica Joseph Jang. I deepfake sono proprio il modo in cui stanno iniziando. “Penso che le società di media inizieranno ad adottare questa funzionalità. Diventerà un'opzione che hai, proprio come a filtro. Diventerà così normale per le persone.

Sia Jang che Mogylnyi hanno utilizzato la proliferazione di Photoshop come modello per la direzione in cui vedono i Deepfake: così comuni da essere insignificanti, anche se ancora un po' controversi. E per entrambi, i problemi politici ed etici racchiusi nei deepfake sono in realtà banali.

Shamir Alllibhai, CEO della piattaforma di rilevamento deepfake Amber Video, ha dichiarato a Digital Trends che la sua opinione prevalente era che la tecnologia deepfake, come la maggior parte degli altri tipi di tecnologia, è amorale.

“Sarebbe come dire che Microsoft Word è immorale, è malvagio perché viene utilizzato da potenziali terroristi sposare un’ideologia violenta ed estremista, che ispirerà altri a sposare l’ideologia estremista violenta”, ha disse. "Vedo questa tecnologia nella stessa ottica."

Amber Video è una piattaforma che pubblicizza i suoi servizi come lotta ai deepfake per "prevenire frodi, perdita di reputazione e sfiducia da parte delle parti interessate". Allibhai ha detto che non sapeva se era pronto a comprare qualcosa solo perché c'era la sua faccia sopra, ma era d'accordo sul fatto che, alla fine, la tecnologia sarà pervasivo.

“È uno specchio della società”, ha detto. “Lo vedi in tecnologie come la piattaforma Twitter. Vedi il meglio dell'umanità e il peggio di noi. Anche la tecnologia Deepfake rispecchierà la società. Ci sono persone che lo useranno per satira spensierata e prenderanno in giro i regimi autoritari. Ma proveremo anche a cucire il caos”.

Arma dei deepfake

La paura più grande rimane il potenziale abuso e l’utilizzo dei deepfake come arma. Man mano che diventeranno più comuni, potremmo addirittura vederli utilizzati non solo per campagne di disinformazione su larga scala, ma anche per scherzi pratici o episodi di bullismo nelle scuole superiori. Se la tecnologia è sufficientemente accessibile, chiunque può usarla.

Sia Carica che RefaceAI hanno affermato che stanno adottando misure per mitigare potenziali abusi: RefaceAI con il suo servizio web di rilevamento deepfake e Carica con i moderatori dei contenuti. L'intera azienda di Carica è composta da sole nove persone in questo momento, ha detto Jang, e si scambiano i compiti di moderazione dei contenuti.

"Questa è stata davvero la prima domanda che ci siamo posti", ha detto Mogylnyi di RefaceAI. “Ci occupiamo da anni di questo problema in termini di scandali politici in Ucraina. Comprendiamo che la nostra tecnologia può essere utilizzata in modo improprio. Anche Photoshop può ed è stato utilizzato per il bullismo. Ma d’altra parte, stiamo fornendo un antidoto a questo. Abbiamo chiesto agli utenti di caricare contenuti di natura sessuale sulla nostra app e li abbiamo immediatamente bannati."

Carica è un'app abbastanza piccola con cui devono lavorare per ora. Ma nel complesso, Jang non era preoccupato.

"Questo accade con tutte le nuove tecnologie", ha detto Jang. “In primo luogo, è guidato da un uso improprio, ma poi, dopo quella fase, diventa disponibile per tutti e le persone lo usano per cose normali”.

Raccomandazioni degli editori

• I robot di sicurezza potrebbero arrivare in una scuola vicino a te
• Amazon utilizza l'intelligenza artificiale per riassumere le recensioni dei prodotti
• Amazon pianifica cambiamenti “irripetibili” per la Ricerca, rivela un annuncio di lavoro
• Il minicomputer Jetson Orin Nano da $ 200 di Nvidia è 80 volte più veloce della versione precedente
• Google Smart Canvas ottiene un'integrazione più profonda tra le app