UN Indagine sul tempo ha esposto il lato più oscuro del settore dei chatbot AI, evidenziando come almeno una startup abbia utilizzato pratiche discutibili per migliorare la propria tecnologia.
Pubblicato mercoledì, il rapporto di Time si concentra su OpenAI e il suo chatbot ChatGPT, una tecnologia che ha guadagnato molta attenzione di recente per la sua notevole capacità di produrre testo conversazionale altamente naturale.
Video consigliati
L'indagine di Time ha scoperto che per addestrare la tecnologia AI, OpenAI ha utilizzato i servizi di un team in Kenya per esaminare attentamente il testo che includeva argomenti inquietanti come abusi sessuali su minori, bestialità, omicidio, suicidio, tortura, autolesionismo e incesto. E per i loro sforzi per etichettare il contenuto ripugnante, molti membri del team hanno ricevuto meno di $ 2 l'ora.
Imparentato
- Google Bard ora può parlare, ma può soffocare ChatGPT?
- ChatGPT: le ultime notizie, controversie e suggerimenti che devi conoscere
- La crescita record di ChatGPT è stata appena detronizzata da una nuova app virale
Il lavoro, iniziato a novembre 2021, era necessario in quanto il predecessore di ChatGPT, GPT-3, sebbene impressionante, aveva la tendenza a vomitare contenuto offensivo poiché il suo set di dati di addestramento era stato compilato raschiando centinaia di miliardi di parole da tutti gli angoli del ragnatela.
Il team con sede in Kenya, gestito dalla società Sama di San Francisco, etichetterebbe il contenuto offensivo per aiutare addestrare il chatbot di OpenAI, migliorando così il suo set di dati e riducendo le possibilità di qualsiasi discutibile produzione.
Time ha detto che tutti e quattro i dipendenti Sama che ha intervistato hanno descritto di essere mentalmente segnati dal loro lavoro. Sama ha offerto sessioni di consulenza, ma i dipendenti hanno affermato che erano inefficaci e raramente si sono svolte a causa di le esigenze del lavoro, anche se un portavoce di Sama ha detto a Time che i terapisti erano accessibili in qualsiasi momento tempo.
Un lavoratore ha detto a Time che leggere il materiale scioccante a volte sembrava una "tortura", aggiungendo che si sentivano "disturbati" entro la fine della settimana.
Nel febbraio 2022, le cose hanno preso una piega ancora più oscura per Sama quando OpenAI ha lanciato un progetto separato non correlato a ChatGPT che richiedeva al suo team del Kenya di raccogliere immagini di natura sessuale e violenta. OpenAI ha detto a Time che il lavoro era necessario per rendere più sicuri i suoi strumenti di intelligenza artificiale.
A poche settimane dall'inizio di questo progetto basato sulle immagini, la natura allarmante dei compiti ha spinto Sama a cancellare tutti i suoi contratti con OpenAI, sebbene Time suggerisca che potrebbe anche essere stato provocato dalle ricadute di pubbliche relazioni di un rapporto su un argomento simile che ha pubblicato Di Facebook più o meno nello stesso periodo.
Open AI ha detto a Time che c'era stato "un errore di comunicazione" sulla natura delle immagini che aveva chiesto a Sama collect, insistendo sul fatto che non aveva chiesto le immagini più estreme e non aveva visto nessuna di quelle che era stata inviato.
Ma la fine dei contratti ha avuto un impatto sui mezzi di sussistenza dei lavoratori, con alcuni membri del team in Kenya che hanno perso il lavoro, mentre altri sono stati spostati su progetti a basso reddito.
L'indagine del tempo offre uno sguardo scomodo ma importante sul tipo di lavoro che sta svolgendo nei chatbot basati sull'intelligenza artificiale che hanno recentemente entusiasmato l'industria tecnologica.
Sebbene trasformativa e potenzialmente vantaggiosa, la tecnologia ha chiaramente un costo umano e solleva una serie di domande etiche su come vanno le aziende sviluppando le loro nuove tecnologie e, più in generale, su come i paesi più ricchi continuino ad affidare compiti meno desiderabili alle nazioni più povere per un minore costo finanziario. esborso.
Le startup dietro la tecnologia saranno sottoposte a un esame più mirato nei prossimi mesi e anni, quindi farebbero bene a rivedere e migliorare le loro pratiche alla prima occasione.
Digital Trends ha contattato OpenAI per un commento sul rapporto di Time e aggiorneremo questo articolo quando avremo notizie.
Raccomandazioni della redazione
- I migliori strumenti di editing video AI
- Il produttore di ChatGPT OpenAI affronta un'indagine FTC sulle leggi sulla protezione dei consumatori
- La nuova società di intelligenza artificiale di Elon Musk mira a "comprendere l'universo"
- Il traffico del sito Web ChatGPT è diminuito per la prima volta
- Le scoperte dell'IA potrebbero arrivare attraverso il cervello delle api, affermano gli scienziati
Aggiorna il tuo stile di vitaDigital Trends aiuta i lettori a tenere d'occhio il frenetico mondo della tecnologia con tutte le ultime notizie, recensioni divertenti sui prodotti, editoriali penetranti e anticipazioni uniche.
