EN Tidsundersøkelse har avslørt den mørkere siden av AI-chatbotindustrien, og fremhevet hvordan minst én oppstart har brukt tvilsom praksis for å forbedre teknologien sin.
Publisert på onsdag, fokuserer Time sin rapport på Microsoft-støttet OpenAI og dens ChatGPT chatbot, en teknologi som nylig har fått mye oppmerksomhet for sin bemerkelsesverdige evne til å produsere svært naturlig samtaletekst.
Anbefalte videoer
Times undersøkelse fant at for å trene opp AI-teknologien brukte OpenAI tjenestene til et team i Kenya for å studere tekst som inkludert urovekkende emner som seksuelle overgrep mot barn, bestialitet, drap, selvmord, tortur, selvskading og incest. Og for deres innsats for å merke det avskyelige innholdet, fikk mange på teamet mindre enn $2 i timen.
I slekt
- Google Bard kan nå snakke, men kan det overdøve ChatGPT?
- ChatGPT: de siste nyhetene, kontroversene og tipsene du trenger å vite
- ChatGPTs rekordvekst ble nettopp detronisert av en ny viral app
Arbeidet, som startet i november 2021, var nødvendig da ChatGPTs forgjenger, GPT-3, selv om det var imponerende, hadde en tendens til å spy ut ut støtende innhold ettersom opplæringsdatasettet ble satt sammen ved å skrape hundrevis av milliarder av ord fra alle hjørner av web.
Det Kenya-baserte teamet, drevet av San Francisco-firmaet Sama, ville merke det støtende innholdet for å hjelpe trene OpenAIs chatbot, og dermed forbedre datasettet og redusere sjansene for noe upassende produksjon.
Time sa at alle de fire Sama-ansatte som ble intervjuet, beskrev at de hadde psykiske arr av arbeidet. Sama tilbød rådgivningssamtaler, men de ansatte sa at de var ineffektive og sjelden fant sted pga kravene til jobben, selv om en talsperson for Sama fortalte Time at terapeutene var tilgjengelige når som helst tid.
En arbeider fortalte Time at det å lese det sjokkerende materialet noen ganger føltes som "tortur", og la til at de følte seg "forstyrret" mot slutten av uken.
I februar 2022 tok ting en enda mørkere vending for Sama da OpenAI lanserte et eget prosjekt uten tilknytning til ChatGPT som krevde at Kenya-teamet skulle samle inn bilder av seksuell og voldelig natur. OpenAI fortalte Time at arbeidet var nødvendig for å gjøre AI-verktøyene deres tryggere.
I løpet av uker etter at dette bildebaserte prosjektet startet, førte den alarmerende karakteren til oppgavene Sama til å kansellere alle sine kontrakter med OpenAI, selv om Time antyder at det også kan ha blitt forårsaket av PR-nedfallet fra en rapport om et lignende emne som den publiserte Om Facebook omtrent samtidig.
Open AI fortalte Time at det hadde vært "en feilkommunikasjon" om arten av bildene som den ba Sama om samle, og insisterte på at den ikke hadde bedt om de mest ekstreme bildene, og ikke hadde sett noen som den hadde vært sendt.
Men å avslutte kontraktene påvirket arbeidernes levebrød, med noen av teamet i Kenya som mistet jobben, mens andre ble flyttet til lavere betalte prosjekter.
Tidens etterforskning tilbyr et ubehagelig, men viktig blikk på hva slags arbeid som foregår i de AI-drevne chatbotene som nylig har fått teknologiindustrien så begeistret.
Selv om teknologien er transformativ og potensielt fordelaktig, kommer den helt klart til en menneskelig pris og stiller opp en rekke etiske spørsmål om hvordan selskaper går frem. utvikle sine nye teknologier, og mer generelt om hvordan rikere land fortsetter å drive ut mindre ønskelige oppgaver til fattigere nasjoner for en lavere økonomisk utlegg.
Startupene bak teknologien vil komme under mer fokusert gransking i løpet av de kommende månedene og årene, og derfor vil de gjøre klokt i å gjennomgå og forbedre praksisene sine så snart som mulig.
Digital Trends har kontaktet OpenAI for å kommentere Time sin rapport, og vi vil oppdatere denne artikkelen når vi hører tilbake.
Redaktørenes anbefalinger
- De beste AI-videoredigeringsverktøyene
- ChatGPT-produsenten OpenAI står overfor FTC-undersøkelse over forbrukerbeskyttelseslover
- Elon Musks nye AI-selskap har som mål å "forstå universet"
- ChatGPT-nettstedstrafikken har falt for første gang
- AI-gjennombrudd kan komme via hjernen til bier, sier forskere
Oppgrader livsstilen dinDigitale trender hjelper leserne å følge med på den fartsfylte teknologiverdenen med alle de siste nyhetene, morsomme produktanmeldelser, innsiktsfulle redaksjoner og unike sniktitter.
