A Preiskava časa je razkril bolj mračno plat industrije klepetalnih robotov z umetno inteligenco in poudaril, kako je vsaj eno zagonsko podjetje uporabljalo vprašljive prakse za izboljšanje svoje tehnologije.
Poročilo Timea, objavljeno v sredo, se osredotoča na OpenAI, ki ga podpira Microsoft, in njegov chatbot ChatGPT, tehnologija, ki je v zadnjem času pridobila veliko pozornosti zaradi svoje izjemne zmožnosti ustvarjanja zelo naravnega pogovornega besedila.
Priporočeni videoposnetki
Timeova raziskava je ugotovila, da je OpenAI za usposabljanje tehnologije umetne inteligence uporabil storitve ekipe v Keniji, da bi preučili besedilo, ki vključevala moteče teme, kot so spolna zloraba otrok, bestialnost, umor, samomor, mučenje, samopoškodovanje in incest. Za svoja prizadevanja, da bi označili gnusno vsebino, so mnogi v ekipi prejeli manj kot 2 USD na uro.
Povezano
- Google Bard lahko zdaj govori, a ali lahko preglasi ChatGPT?
- ChatGPT: najnovejše novice, polemike in nasveti, ki jih morate vedeti
- Rekordno rast ChatGPT je pravkar zrušila nova virusna aplikacija
Delo, ki se je začelo novembra 2021, je bilo potrebno, saj je bil predhodnik ChatGPT, GPT-3, čeprav je bil impresiven, nagnjen k bruhanju iz žaljive vsebine, saj je bil nabor podatkov o usposabljanju sestavljen s strganjem na stotine milijard besed iz vseh koncev splet.
Ekipa s sedežem v Keniji, ki jo vodi podjetje Sama iz San Francisca, bi označila žaljivo vsebino za pomoč usposobiti klepetalnega robota OpenAI, s čimer izboljša nabor podatkov in zmanjša možnosti kakršnih koli spornih dejanj izhod.
Čas je povedal, da so vsi štirje zaposleni v Sami, s katerimi je intervjuval, opisali, da so zaradi svojega dela duševno prizadeti. Sama je ponudil svetovanja, vendar so zaposleni rekli, da so bila neučinkovita in da so se redko izvajala zaradi zahteve službe, čeprav je tiskovni predstavnik Sama za Time povedal, da so bili terapevti dostopni kadar koli čas.
En delavec je za Time povedal, da se je branje šokantnega gradiva včasih zdelo kot "mučenje", in dodal, da so se do konca tedna počutili "moteče".
Februarja 2022 so se stvari za Samo še bolj zaostrile, ko je OpenAI začel ločen projekt, ki ni bil povezan s ChatGPT in je zahteval, da njegova ekipa iz Kenije zbira slike spolne in nasilne narave. OpenAI je za Time povedal, da je bilo delo potrebno za varnejša orodja AI.
Nekaj tednov po začetku tega slikovno temelječega projekta je Sama zaradi zaskrbljujoče narave nalog odpovedala vse svoje pogodbe z OpenAI, čeprav Time nakazuje, da bi ga lahko spodbudil tudi učinek PR iz poročila o podobni temi, ki ga je objavil približno Facebook približno ob istem času.
Open AI je Timeu povedal, da je prišlo do "napačne komunikacije" glede narave posnetkov, za katere je prosil Sama zbirati, pri čemer je vztrajal, da ni zahteval najekstremnejših posnetkov in si ni ogledal nobenega, ki bi bil poslano.
Toda prekinitev pogodb je vplivala na preživetje delavcev, saj so nekateri člani ekipe v Keniji izgubili službe, medtem ko so bili drugi premeščeni na nižje plačane projekte.
Časova preiskava ponuja neprijeten, a pomemben pogled na vrsto dela, ki poteka v klepetalnih robotih, ki jih poganja umetna inteligenca in so nedavno tako navdušili tehnološko industrijo.
Čeprav je tehnologija transformativna in potencialno koristna, ima očitno človeško ceno in odpira vrsto etičnih vprašanj o tem, kako podjetja delujejo. razvijajo svoje nove tehnologije in širše o tem, kako bogatejše države še naprej dajejo manj zaželena opravila revnejšim državam za nižjo finančno izdatek.
Zagonska podjetja, ki stojijo za to tehnologijo, bodo v prihodnjih mesecih in letih pod bolj osredotočenim nadzorom, zato bi bilo dobro, da svoje prakse pregledajo in izboljšajo ob prvi priložnosti.
Digital Trends se je obrnil na OpenAI za komentar o Timeovem poročilu in ta članek bomo posodobili, ko bomo prejeli odgovor.
Priporočila urednikov
- Najboljša orodja za urejanje videa z umetno inteligenco
- Izdelovalec ChatGPT OpenAI se sooča s preiskavo FTC zaradi zakonov o varstvu potrošnikov
- Novo podjetje Elona Muska z umetno inteligenco želi "razumeti vesolje"
- Obisk spletnega mesta ChatGPT je prvič upadel
- Preboji umetne inteligence bi lahko prišli prek možganov čebel, pravijo znanstveniki
Nadgradite svoj življenjski slogDigitalni trendi bralcem pomagajo slediti hitremu svetu tehnologije z vsemi najnovejšimi novicami, zabavnimi ocenami izdelkov, pronicljivimi uvodniki in enkratnimi vpogledi v vsebine.
