I Deepfake sono pericolosi? Creatori e regolatori non sono d'accordo

Negli ultimi anni, deepfake sono emersi come l'ultimo punto di riferimento di Internet per meme e contenuti parodia.

È facile capire perché: consentono ai creatori di piegare le regole della realtà come nessun’altra tecnologia prima. Attraverso la magia dei deepfake, puoi guardare Jennifer Lawrence tiene un discorso attraverso il volto di Steve Buscemi, guarda cosa Ryan Reynolds sarebbe apparso come Willy Wonkae persino catturare Hitler e Stalin cantanoIl video ha ucciso la star della radio in un duetto.

Per chi non lo sapesse, la tecnologia deepfake è una forma di media sintetico che consente agli utenti di sovrapporre un volto diverso a quello di qualcun altro in un modo quasi indistinguibile dall'originale. Lo fa leggendo un sacco di dati per comprendere i contorni del viso e altre caratteristiche per fonderlo e animarlo naturalmente nella scena.

A questo punto, probabilmente ti sei imbattuto in clip di questo tipo su piattaforme come TikTok (dove l'hashtag "#deepfake" ha circa 200 milioni di visualizzazioni), YouTube e altrove. Che si tratti di soddisfare le fan fiction e rifare le scene con le stelle desiderano che il film originariamente avesse scelto o inserito una persona morta in un meme moderno e virale, i deepfake sono stati adottati come sbocco creativo per scopi che prima erano quasi impossibili.

Il cambiamento ha generato una lega di nuovi creatori come Ctrl Maiusc faccia, i cui video deepfake attirano regolarmente milioni di visualizzazioni e spesso sono l'argomento principale di discussione nei talk show notturni.

"È un modo completamente nuovo di realizzare video divertenti su Internet o di raccontare storie come non abbiamo mai visto prima", afferma il creatore olandese dietro il successo "I Vendicatori di Oz” clip deepfake che chiedeva che il suo vero nome non venisse utilizzato. “È una bellissima combinazione di fascino per l’A.I. tecnologia e umorismo."

Ma c’è un rischio incombente che minaccia del tutto il futuro della tecnologia deepfake: la sua reputazione contaminata.

Da un grande potere deriva una grande ripostabilità

Sfortunatamente, oltre al loro potenziale come strumento creativo per videoartisti ben intenzionati, i deepfake hanno anche un enorme potenziale di arrecare danni.

Un recente studio del Dawes Center for Future Crime presso l’UCL Jill Dando Institute of Security and Crime Science hanno etichettato i deepfake come la minaccia più grave basata sull'intelligenza artificiale. Sen. Ben Sasse, un repubblicano del Nebraska che ha presentato un disegno di legge per criminalizzare la creazione dannosa di deepfake, avvertito l’anno scorso che la tecnologia potrebbe “distruggere vite umane”, “deturpare i mercati finanziari” e persino “scatenare conflitti militari in tutto il mondo”.

In una certa misura, queste preoccupazioni sono giuste. Dopotutto, la proliferazione della tecnologia deepfake ha già consentito cose come la produzione di contenuti falsi per adulti con celebrità e imitazioni realistiche di politici a scopo satirico. All'inizio di quest'anno, Dan Scavino, direttore dei social media della Casa Bianca, twittato una clip mal manipolata, ritwittata anche dal presidente Donald Trump, del rivale di Trump Joe Biden che chiede alla gente di rieleggere Trump.

Tuttavia, queste bufale poco convincenti sono state rapidamente sfatate prima di raggiungere le masse. Ancora più importante, gli esperti suggeriscono che finora i video deepfake hanno avuto un impatto sociale minimo o nullo e che attualmente non rappresentano alcuna minaccia imminente. Ad esempio, la ricerca condotta da Sensibilità, una società di sicurezza informatica focalizzata sulle minacce visive, afferma che la stragrande maggioranza dei video deepfake lo sono pornografico (96%) e che la tecnologia deve ancora farsi strada in una disinformazione significativa campagne.

Allo stesso modo, a Rapporto della Georgetown University ha concluso che, sebbene i deepfake siano una “impresa tecnica impressionante”, i politici non dovrebbero affrettarsi l'hype in quanto la tecnologia non è perfetta al momento e non può influenzare solo gli eventi del mondo reale Ancora.

Il creatore del canale deepfake più popolare Ctrl Shift Face, i cui video sono visti da milioni di persone, crede all'"isteria" Girare intorno al tema del deepfake sta distogliendo l'attenzione dei legislatori dai problemi reali, come la pubblicità scarsamente regolamentata reti accese Facebook che sono effettivamente responsabili di ingannare le persone.

"Se mai ci sarà un deepfake dannoso, Facebook è il luogo in cui si diffonderà", ha detto Ctrl Shift Face in un'intervista a Digital Trends. “In tal caso, qual è il problema più grande? Il mezzo o la piattaforma?”

Il proprietario di BabyZone, un canale di giochi YouTube con oltre mezzo milione di iscritti che spesso inserisce le celebrità nei video games, riecheggia una preoccupazione simile: “Penso che i deepfake siano una tecnologia come tutte le altre esistenti tecnologie. Possono essere usati per scopi buoni e per scopi cattivi”.

Il movimento per salvare i deepfake

Negli ultimi due anni, i governi e le aziende tecnologiche hanno indagato sui potenziali rischi di ciò tecnologia, i sostenitori del deepfake si sono affrettati per dissipare queste preoccupazioni e sistemare il pubblico della tecnologia Immagine. Comunità Reddit che cercano di “aggiustare questo stigma” sono emersi e alcuni ricercatori indipendenti stanno attivamente costruendo sistemi in grado di individuare i deepfake prima che diventino virali.

Roman Mogylnyi, CEO e co-fondatore di Reface, un'app di successo che ti consente di scambiare rapidamente il tuo volto in qualsiasi GIF, afferma che la sua startup sta ora sviluppando uno strumento di rilevamento in grado di stabilire se un video è stato realizzato con Reface tecnologia. “Crediamo che un ampio accesso a strumenti mediatici sintetizzati come i nostri aumenterà l’empatia e l’empatia dell’umanità creatività e contribuirà a cambiare in meglio la percezione della tecnologia”, ha detto Mogylnyi a Digital Tendenze.

Eran Dagan, fondatore e CEO di Botika, la startup dietro la popolare app per lo scambio di volti Jiggy, ha una visione simile verso i deepfake e le credenze man mano che diventano più mainstream, “le persone saranno molto più consapevoli del loro utilizzo positivo casi”.

Considerati i potenziali pericoli dei deepfake, tuttavia, è probabile che prima o poi il Congresso intervenga. Le principali piattaforme tecnologiche tra cui Facebook, Twitter e YouTube hanno già aggiornato le loro politiche per segnalare o rimuovere i media manipolati progettati per fuorviare. Più stati come California e New York hanno approvato progetti di legge che puniranno i creatori di deepfake intenzionalmente ingannevoli, così come quelli rilasciati senza il consenso della persona di cui viene utilizzato il volto.

I deepfake dovrebbero essere regolamentati?

Sebbene queste politiche escludano contenuti di parodia, gli esperti, temendo leggi mal definite o un divieto totale della tecnologia, Credo ancora che il Congresso dovrebbe starne fuori e lasciare che i deepfake seguano il corso naturale di qualsiasi nuova forma di media Attraverso.

David Greene, direttore delle libertà civili presso la Electronic Frontier Foundation, afferma che “qualsiasi tentativo da parte del Congresso di farlo regolare i falsi profondi o qualsiasi tipo di comunicazione visiva sarà una regolamentazione del discorso e implicherà il Primo Emendamento.

Queste leggi, aggiunge Greene, devono essere precise e devono – in termini ben definiti e facilmente comprensibili – affrontare il danno che stanno cercando di limitare. “Ciò che abbiamo visto finora… i tentativi di regolamentazione a livello statale sono leggi vaghe ed eccessive che non hanno la precisione richiesta dal Primo Emendamento. Non hanno richiesto eccezioni per la parodia e il commento politico”.

Giorgio Patrini, amministratore delegato di Sensity, ritiene che il divieto di algoritmi e software sia “privo di significato nell’era di Internet”. Patrini paragona questo enigma al malware protezione e come sia quasi impossibile porre fine a tutti i virus informatici o ai loro autori, quindi è meglio investire semplicemente in meccanismi anti-malware Invece. “La società deve costruire nuovi meccanismi per certificare ciò di cui ci si può fidare e come prevenire gli impatti negativi dei contenuti sintetici su individui e organizzazioni”, ha affermato.

Tim Whang ha scritto nel rapporto della Georgetown University che con la mercificazione degli strumenti deepfake, la tecnologia per rilevare e filtrare di conseguenza si evolverà automaticamente e diventerà più accurato, neutralizzando così la loro capacità di presentare qualsiasi cosa seria minacce.

Lo strumento di rilevamento dei deepfake recentemente lanciato da Microsoft, ad esempio, analizza i video per offrirti un punteggio di confidenza che indica la probabilità che il video sia stato modificato.

“I deepfake sono una nuova forma di manipolazione dei media, ma non è la prima volta che affrontiamo questo tipo di sfida. Stiamo esplorando e investendo in modi per affrontare i media sintetici", ha affermato un portavoce di YouTube.

I ricercatori dietro CtrlShiftLab, un software avanzato per la creazione di deepfake utilizzato da molti YouTuber, incluso Ctrl Shift Face lavorando anche verso progetti open source per aumentare la consapevolezza e creare un rilevamento più completo Servizi.

“L’unico modo per prevenire questo [abuso del deepfake] è creare un progetto open source relativo al deepfake e attirare l’attenzione del pubblico. Quindi i netizen pubblici possono rendersi conto che esistono i deepfake”, ha detto a Digital Trends Kunlin Liu, uno dei ricercatori di CtrlShiftLab.

Diversi creatori di deepfake, Digital Trends, hanno affermato di rimanere ottimisti e di ritenere prematura la reazione dei paesi contro i deepfake. Sono d’accordo sul fatto che il ruolo crescente del deepfake nei meme e nella cultura della parodia sarà determinante nel riparare la pessima reputazione di questa tecnologia emergente. E finché i video avranno disclaimer e le piattaforme investiranno in livelli di rilevamento più efficaci, hanno aggiunto, i deepfake sono qui per restare.

“Penso che la reputazione dei deepfake stia migliorando in modo significativo. Due anni fa la parola deepfake significava automaticamente porno”, ha affermato il creatore di Ctrl Shift Face. "Ora, la maggior parte delle persone conosce i deepfake grazie a questi video divertenti che circolano su Internet."

Raccomandazioni degli editori

• Premi Tech For Change CES 2023 di Digital Trends
• Nell'esilarante Project Gucciberg, un Gucci Mane profondamente falso legge romanzi classici
• Come artisti e attivisti utilizzano i deepfake come forza positiva
• Twitter si propone di vietare i deepfake che “causano danni” prima delle elezioni del 2020
• La California sta reprimendo i deepfake per la politica e il porno