A Tidsutredning har avslöjat den skummare sidan av AI-chatbotindustrin och belyst hur minst en startup har använt tvivelaktiga metoder för att förbättra sin teknik.
Publicerad på onsdagen fokuserar Times rapport på Microsoft-stödda OpenAI och dess ChatGPT chatbot, en teknik som nyligen har fått stor uppmärksamhet för sin anmärkningsvärda förmåga att producera mycket naturlig konversationstext.
Rekommenderade videor
Tidens undersökning fann att för att träna AI-tekniken använde OpenAI tjänsterna från ett team i Kenya för att granska text som inkluderade störande ämne som sexuella övergrepp mot barn, bestialitet, mord, självmord, tortyr, självskada och incest. Och för sina ansträngningar att märka det avskyvärda innehållet fick många i teamet mindre än 2 USD i timmen.
Relaterad
- Google Bard kan nu tala, men kan det överrösta ChatGPT?
- ChatGPT: de senaste nyheterna, kontroverserna och tipsen du behöver veta
- ChatGPTs rekordtillväxt avsattes precis av en ny viral app
Arbetet, som startade i november 2021, var nödvändigt eftersom ChatGPT: s föregångare, GPT-3, även om det var imponerande, hade en tendens att spy ut ut kränkande innehåll eftersom dess träningsdataset hade sammanställts genom att skrapa hundratals miljarder ord från alla hörn av webb.
Det Kenya-baserade teamet, som drivs av San Francisco-företaget Sama, skulle märka det stötande innehållet för att hjälpa träna OpenAI: s chatbot och därigenom förbättra dess datauppsättning och minska chanserna för något stötande produktion.
Time sa att alla fyra av Sama-anställda som den intervjuade beskrev att de var psykiskt ärrade av sitt arbete. Sama erbjöd rådgivningstillfällen, men de anställda sa att de var ineffektiva och sällan skedde pga kraven på jobbet, även om en talesperson för Sama sa till Time att terapeuterna var tillgängliga när som helst tid.
En arbetare berättade för Time att det ibland kändes som "tortyr" att läsa det chockerande materialet och tillade att de kände sig "störda" i slutet av veckan.
I februari 2022 tog det en ännu mörkare vändning för Sama när OpenAI lanserade ett separat projekt som inte var relaterat till ChatGPT som krävde att deras team i Kenya samlade in bilder av sexuell och våldsam natur. OpenAI sa till Time att arbetet var nödvändigt för att göra dess AI-verktyg säkrare.
Inom några veckor efter att detta bildbaserade projekt startade, fick den alarmerande karaktären av uppgifterna Sama att säga upp alla sina kontrakt med OpenAI, även om Time antyder att det också kan ha föranletts av PR-nedfallet från en rapport om ett liknande ämne som den publicerade handla om Facebook ungefär samtidigt.
Open AI sa till Time att det hade förekommit en "felkommunikation" om bildens natur som den bad Sama att göra samla in, insisterade på att det inte hade bett om de mest extrema bilderna och inte hade sett några som det hade varit skickas.
Men att avsluta kontrakten påverkade arbetarnas försörjning, med några av teamet i Kenya som förlorade sina jobb, medan andra flyttades till lägre betalda projekt.
Tidens undersökning erbjuder en obekväm men viktig titt på den typ av arbete som ligger i de AI-drivna chatbotarna som nyligen har gjort den tekniska industrin så upphetsad.
Även om det är transformativt och potentiellt fördelaktigt, kommer tekniken helt klart till en mänsklig kostnad och väcker en rad etiska frågor om hur företag går tillväga. utveckla sin nya teknologi, och mer allmänt om hur rika länder fortsätter att odla ut mindre önskvärda uppgifter till fattigare nationer för en lägre ekonomisk utlägg.
Nystartade företag bakom tekniken kommer att granskas mer fokuserat under de kommande månaderna och åren, och därför skulle de göra klokt i att se över och förbättra sina metoder så snart som möjligt.
Digital Trends har kontaktat OpenAI för att kommentera Times rapport och vi kommer att uppdatera den här artikeln när vi hör tillbaka.
Redaktörens rekommendationer
- De bästa AI-videoredigeringsverktygen
- ChatGPT-tillverkaren OpenAI står inför FTC-utredning över konsumentskyddslagar
- Elon Musks nya AI-företag syftar till att "förstå universum"
- ChatGPTs webbplatstrafik har minskat för första gången
- AI-genombrott kan komma via binas hjärnor, säger forskare
Uppgradera din livsstilDigitala trender hjälper läsarna att hålla koll på den snabba teknikvärlden med alla de senaste nyheterna, roliga produktrecensioner, insiktsfulla redaktioner och unika smygtittar.
