EN Tidsundersøgelse har afsløret den mere skumle side af AI-chatbotindustrien og fremhævet, hvordan mindst én startup har brugt tvivlsom praksis til at forbedre sin teknologi.
Udgivet onsdag fokuserer Times rapport på Microsoft-støttet OpenAI og dens ChatGPT chatbot, en teknologi, der for nylig har fået stor opmærksomhed for sin bemærkelsesværdige evne til at producere meget naturlig samtaletekst.
Anbefalede videoer
Time's undersøgelse fandt ud af, at OpenAI brugte tjenester fra et hold i Kenya for at træne AI-teknologien til at undersøge tekst, der inkluderet foruroligende emner såsom seksuelt misbrug af børn, bestialitet, mord, selvmord, tortur, selvskade og blodskam. Og for deres bestræbelser på at mærke det afskyelige indhold modtog mange på holdet mindre end $2 i timen.
Relaterede
- Google Bard kan nu tale, men kan den overdøve ChatGPT?
- ChatGPT: de seneste nyheder, kontroverser og tips, du har brug for at vide
- ChatGPTs rekordvækst blev netop detroniseret af en ny viral app
Arbejdet, der startede i november 2021, var nødvendigt, da ChatGPTs forgænger, GPT-3, selv om det var imponerende, havde en tendens til at spy ud af stødende indhold, da dets træningsdatasæt var blevet kompileret ved at skrabe hundredvis af milliarder af ord fra alle hjørner af web.
Det Kenya-baserede team, der drives af San Francisco-firmaet Sama, ville mærke det stødende indhold for at hjælpe træne OpenAIs chatbot, og derved forbedre sit datasæt og reducere chancerne for noget stødende produktion.
Time sagde, at alle fire Sama-medarbejdere, som den interviewede, beskrev, at de var mentalt arrede af deres arbejde. Sama tilbød rådgivningssessioner, men medarbejderne sagde, at de var ineffektive og sjældent fandt sted pga kravene til jobbet, selvom en Sama-talsmand fortalte Time, at terapeuterne var tilgængelige på alle tid.
En arbejder fortalte Time, at læsning af det chokerende materiale nogle gange føltes som "tortur", og tilføjede, at de følte sig "forstyrrede" ved udgangen af ugen.
I februar 2022 tog tingene en endnu mørkere drejning for Sama, da OpenAI lancerede et separat projekt uden relation til ChatGPT, der krævede, at dets Kenya-team indsamlede billeder af seksuel og voldelig karakter. OpenAI fortalte Time, at arbejdet var nødvendigt for at gøre dets AI-værktøjer sikrere.
Inden for få uger efter, at dette billedbaserede projekt startede, fik opgavernes alarmerende karakter Sama til at annullere alle sine kontrakter med OpenAI, selvom Time antyder, at det også kunne have været foranlediget af PR-nedfaldet fra en rapport om et lignende emne, som det offentliggjorde om Facebook omkring samme tid.
Open AI fortalte Time, at der havde været "en fejlkommunikation" om arten af de billeder, som den bad Sama om indsamle og insisterede på, at den ikke havde bedt om de mest ekstreme billeder og ikke havde set nogen, som den havde været sendt.
Men afslutningen af kontrakterne påvirkede arbejdernes levebrød, hvor nogle af holdet i Kenya mistede deres job, mens andre blev flyttet til lavere betalte projekter.
Tidens undersøgelse tilbyder et ubehageligt, men vigtigt blik på den slags arbejde, der foregår i de AI-drevne chatbots, som for nylig har fået den teknologiske industri så begejstret.
Selvom teknologien er transformativ og potentielt gavnlig, har den helt klart en menneskelig pris og rejser en række etiske spørgsmål om, hvordan virksomheder går omkring udvikling af deres nye teknologier og mere bredt om, hvordan rigere lande fortsætter med at drive mindre ønskværdige opgaver ud til fattigere nationer for en lavere økonomisk udlæg.
Startups bag teknologien vil komme under mere fokuseret granskning i de kommende måneder og år, og derfor vil de gøre klogt i at gennemgå og forbedre deres praksis så hurtigt som muligt.
Digital Trends har kontaktet OpenAI for at få en kommentar til Time's rapport, og vi vil opdatere denne artikel, når vi hører tilbage.
Redaktørens anbefalinger
- De bedste AI-videoredigeringsværktøjer
- ChatGPT-producenten OpenAI står over for FTC-undersøgelse over forbrugerbeskyttelseslove
- Elon Musks nye AI-virksomhed har til formål at 'forstå universet'
- ChatGPT-webstedets trafik er faldet for første gang
- AI-gennembrud kan komme via biernes hjerner, siger videnskabsmænd
Opgrader din livsstilDigital Trends hjælper læserne med at holde styr på den hurtige teknologiske verden med alle de seneste nyheder, sjove produktanmeldelser, indsigtsfulde redaktionelle artikler og enestående smugkig.
