A Istraživanje vremena razotkrio je mračniju stranu industrije AI chatbota, ističući kako je barem jedan startup koristio upitne prakse za poboljšanje svoje tehnologije.
Objavljeno u srijedu, Timeovo izvješće usredotočeno je na OpenAI koji podržava Microsoft i njegov ChatGPT chatbot, tehnologija koja je nedavno privukla veliku pozornost zbog svoje izvanredne sposobnosti stvaranja vrlo prirodnog razgovora.
Preporučeni videozapisi
Timeova sonda otkrila je da je za treniranje AI tehnologije OpenAI koristio usluge tima u Keniji da prouči tekst koji uključuje uznemirujuće teme kao što su seksualno zlostavljanje djece, bestijalnost, ubojstvo, samoubojstvo, mučenje, samoozljeđivanje i incest. A za svoje napore da označe odvratan sadržaj, mnogi u timu dobivali su manje od 2 dolara na sat.
Povezano
- Google Bard sada može govoriti, ali može li ugušiti ChatGPT?
- ChatGPT: najnovije vijesti, kontroverze i savjeti koje trebate znati
- Rekordni rast ChatGPT-a upravo je skinuta s trona novom virusnom aplikacijom
Rad koji je započeo u studenom 2021. bio je neophodan jer je ChatGPT-ov prethodnik, GPT-3, iako impresivan, imao tendenciju izbacivanja iz uvredljivog sadržaja jer je skup podataka za obuku sastavljen skupljanjem stotina milijardi riječi iz svih kutova mreža.
Tim sa sjedištem u Keniji, kojim upravlja tvrtka Sama iz San Francisca, označio bi uvredljiv sadržaj kao pomoć trenirati OpenAI-jev chatbot, poboljšavajući tako njegov skup podataka i smanjujući šanse za bilo kakve nepoželjnosti izlaz.
Time je rekao da su sva četiri zaposlenika Sama koje je intervjuirao opisala kako su mentalno oštećena svojim radom. Sama je nudio savjetovanja, ali su zaposlenici rekli da su bila neučinkovita i da su se rijetko održavala zbog zahtjevima posla, iako je glasnogovornik Same rekao za Time da su terapeuti bili dostupni u bilo kojem trenutku vrijeme.
Jedan je radnik rekao za Time da se čitanje šokantnog materijala ponekad čini kao "mučenje", dodajući da su se do kraja tjedna osjećali "uznemireno".
U veljači 2022. stvari su poprimile još mračniji zaokret za Samu kada je OpenAI pokrenuo zasebni projekt koji nije povezan s ChatGPT-om koji je zahtijevao od njegovog kenijskog tima prikupljanje slika seksualne i nasilne prirode. OpenAI je rekao za Time da je rad bio neophodan kako bi njegovi AI alati bili sigurniji.
U roku od nekoliko tjedana nakon početka ovog projekta temeljenog na slikama, alarmantna priroda zadataka potaknula je Sama da otkaže sve svoje ugovore s OpenAI, iako Time sugerira da je također mogao biti potaknut PR rezultatom izvješća o sličnoj temi koje je objavio oko Facebook otprilike u isto vrijeme.
Open AI je rekao Timeu da je došlo do "pogrešne komunikacije" o prirodi slika koje je tražio od Same prikupiti, inzistirajući na tome da nije tražio najekstremnije slike i da nije pogledao nijednu koja je poslao.
No raskid ugovora utjecao je na sredstva za život radnika, pri čemu su neki članovi tima u Keniji izgubili posao, dok su drugi premješteni na manje plaćene projekte.
Vremenska istraga nudi neugodan, ali važan pogled na vrstu posla koji se obavlja u chatbotovima pokretanim umjetnom inteligencijom koji su nedavno toliko uzbuđivali tehnološku industriju.
Iako je transformativna i potencijalno korisna, tehnologija očito dolazi na ljudsku cijenu i postavlja niz etičkih pitanja o tome kako tvrtke posluju razvijanju svojih novih tehnologija, i šire o tome kako bogatije zemlje nastavljaju davati manje poželjne zadatke siromašnijim nacijama za nižu financijsku izdatak.
Startupi koji stoje iza ove tehnologije bit će pod usredotočenijim nadzorom u nadolazećim mjesecima i godinama, pa bi bilo dobro da pregledaju i poboljšaju svoje prakse što je prije moguće.
Digitalni trendovi obratili su se OpenAI-ju za komentar o Timeovom izvješću i ažurirat ćemo ovaj članak kada dobijemo odgovor.
Preporuke urednika
- Najbolji AI alati za uređivanje videa
- Proizvođač ChatGPT-a OpenAI suočava se s istragom FTC-a zbog zakona o zaštiti potrošača
- Nova AI tvrtka Elona Muska ima za cilj 'razumjeti svemir'
- Promet web stranice ChatGPT pao je po prvi put
- Znanstvenici kažu da bi otkrića umjetne inteligencije mogla doći preko mozgova pčela
Nadogradite svoj životni stilDigitalni trendovi pomažu čitateljima da prate brzi svijet tehnologije sa svim najnovijim vijestima, zabavnim recenzijama proizvoda, pronicljivim uvodnicima i jedinstvenim brzim pregledima.
