Progetto Gucciberg: audiolibri deepfaked di Gucci Mane

"Gucci Mane pazzo, potrei fermarmi su una zebra / atterrare su un'aquila, fumare uno spinello di reefa."

Questo è un testo di Gucci Mane tratto dalla sua traccia del 2010 "It's Gucci Time" dall'album L’appello: il più ricercato della Georgia.

“È una verità universalmente riconosciuta/ che un uomo scapolo in possesso di una buona fortuna, deve essere in mancanza di a moglie." Adesso è anche un Gucci bar, anche se originariamente scritto da Jane Austen nel suo romanzo sulle buone maniere del 1813, Orgoglio e pregiudizio, anche se Gucci lo infonde con un livello di spavalderia trap rap che non si riscontra in altre letture del classico testo inglese. (In confronto, il top Udibile la voce dello stesso romanzo viene letta dalla superstar del rap decisamente non trap Rosamund Pike.)

Gucci, a quanto pare, è stato impegnato, ancora più impegnato di quanto lo fosse stato nel periodo 2010-2015, quando pubblicava mixtape al ritmo vertiginoso di circa uno al mese. Oggi, il rapper 41enne ha debuttato con le letture vocali di se stesso leggendo un assortimento di romanzi classici dal titolo alquanto brillante "

Progetto Gucciberg.” Un'infarinatura dei romanzi include Le avventure di alice nel paese delle meraviglie, Piccole donne, Una proposta modesta, Dracula, E L'importanza di essere seri.

Solo che non l'ha fatto. Beh, non esattamente.

È più magia audio deepfake, questa volta per gentile concessione del collettivo di arti digitali con sede a New York MSCHF. Fresco del loro ultimo progetto, in cui loro ha attaccato una pistola da paintball a uno dei robot Spot di Boston Dynamics, e ha consentito agli utenti di controllarlo a distanza tramite Internet: il team ha prestato la sua irriverenza da burlone esperto di tecnologia e di pressione dei pulsanti a un progetto in cui il rapper all'anagrafe Radric Delantic Davis viene telecomandato (almeno, così dice lui) per raccontare una sfilza di vintage romanzi.

Geni del male

Daniel Greenberg di MSCHF ha dichiarato a Digital Trends: “Gucci Mane è uno dei musicisti di maggior impatto nella storia del rap. Il Progetto Gutenberg è uno degli ultimi bastioni dei testi di pubblico dominio su Internet. Combinando i due, sfruttando il potere dell'A.I. tecnologia, abbiamo creato gli audiolibri di pubblico dominio letti dai rapper di maggior impatto nella storia di Internet.

Per creare la loro (totalmente non autorizzata) amante della letteratura A.I. rapper, il team ha creato un set di dati di addestramento di circa sei ore Il discorso di Gucci, estratto da interviste, podcast e qualsiasi altro filmato audio accessibile al pubblico da cui potevano recuperare Youtube. Questo materiale originale è stato quindi modificato, ridotto in segmenti di 10 secondi, equalizzato, trascritto ed etichettato.

"Inoltre, il nostro team ha creato una chiave/dizionario per la pronuncia di Gucci per catturare meglio le idiosincrasie del particolare argot di Gucci Mane", ha affermato Greenberg. Ha aggiunto: “Scherzi a parte, questa cosa è l’equivalente di una tesi di linguistica”.

Il set di dati è stato quindi utilizzato per addestrare un'A.I. modello, massaggiato ripetutamente affinché migliorasse il output, e poi arricchito con tocchi umani per aggiungere stile come pause gravide nel testo in cui necessario.

"A volte può sembrare che Gucci stia parlando con un microfono rotto o con un flusso audio scadente, perché era presente in gran parte del nostro materiale originale", ha ammesso Greenberg. “Tuttavia, escludendo questi fattori ambientali, riteniamo che l’emulazione vocale vera e propria sia estremamente efficace. È allo stesso tempo sorprendente e spaventoso quanto sia efficace questa tecnologia nel far dire a chiunque quello che vuoi.

Il vero Gucci Mane non ha risposto a una richiesta di commento. Tuttavia, come ha riconosciuto Greenberg, questa è una sorta di “zona grigia” quando si parla di diritto d’autore. "Le implicazioni sul copyright dei deepfake non sono ancora state legiferate", ha affermato. “Tutti i campioni audio su cui abbiamo addestrato il nostro modello erano disponibili pubblicamente tramite interviste. Alla fine, abbiamo una voce che non è la nostra, leggiamo testi di pubblico dominio che non abbiamo scritto, ma stiamo creando i nostri “propri” audiolibri”.

Deepfake-A-Thon

L'anno scorso, l'agenzia di intrattenimento Roc Nation LLC di Jay-Z ha contestato un deepfaker audio che ha usato la voce del rapper per pronunciare parole senza senso come il Copypasta dei Navy Seal su YouTube. Era, come ho notato all'epoca, un enigma rompicapo per un rapper che una volta rappava la frase "Ho campionato la tua voce, la stavi usando male" durante il suo litigio con Nas dei primi anni 2000. Ma Roc Nation non stava entrando nell’ironica complessità del caso. Erano semplicemente infastiditi dal fatto che qualcuno “[utilizzasse] illegalmente un’A.I. per impersonare la voce del nostro cliente.

Non è difficile capire perché un artista possa essere turbato da una cosa del genere. Come il deepfake visivi quel posto gli attori in film in cui non sono mai apparsi (o, come è facendo il giro di recente, Tom Cruise in una serie di video iperattivi di TikTok), un deepfake audio di un artista prende il massimo risorsa preziosa - la loro voce, in questo caso - e la usa per creare qualcosa che non hanno mai acconsentito a eseguire In. Ci sono in gioco sia questioni etiche che finanziarie.

“La storia del rap è la storia dell’autoreferenzialità”, sosteneva Greenberg. “Attraverso l’intero canone della tradizione, attraverso l’intero corpo dell’opera di un dato artista. Quando sbirci sotto il cofano di un'A.I. modello di apprendimento, si verifica un processo stranamente simile: una sorta di iper-autoreferenzialità. Per quanto obliquo possa sembrare, tutto questo combacia abbastanza bene.

Dovremmo preoccuparci del rischio di deepfake audio in un mondo in cui reale e falso possono essere confusi in misura sorprendente?

“Assolutamente, ma l’allarme non impedirà ai deepfake di diventare sempre più diffusi”, ha affermato. “Questa tecnologia è qui per restare: saremmo fortunati se venisse utilizzata solo per divertimento. Forse fare cose divertenti ci aiuterà a mantenerci in quel regno. Abbiamo raggiunto un punto di svolta in cui verità e finzione stanno diventando impossibili da discernere su Internet. Pertanto, ci siamo resi conto che era fondamentale calmare le nostre orecchie con la dolce voce di lettura generata dall’intelligenza artificiale di Gucci Mane”.

Mentre cantano le sirene per portarci sugli scogli di Skynet, forse Gucci non è poi così male, a quanto pare. Soprattutto se potesse essere Gucci del 2009, circa Lo Stato contro Radric Davis.

Raccomandazioni degli editori

• Questa startup vuole clonare la tua voce con il deepfake e venderla al miglior offerente
• I deepfake sono una tecnologia pericolosa? Creatori e regolatori non sono d'accordo