A Aja uurimine on paljastanud tehisintellekti vestlusrobotite tööstuse hämarama poole, tuues esile, kuidas vähemalt üks idufirma on kasutanud oma tehnoloogia täiustamiseks küsitavaid tavasid.
Kolmapäeval avaldatud Time’i aruanne keskendub Microsofti toetatud OpenAI-le ja selle ChatGPT-vestlusbot, tehnoloogia, mis on pälvinud viimasel ajal palju tähelepanu tänu oma märkimisväärsele võimele toota väga loomulikku vestlusteksti.
Soovitatud videod
Time'i uurimine leidis, et tehisintellekti tehnoloogia koolitamiseks kasutas OpenAI Keenia meeskonna teenuseid, et uurida teksti, mis hõlmasid häirivaid teemasid, nagu laste seksuaalne väärkohtlemine, loomalikkus, mõrv, enesetapp, piinamine, enesevigastamine ja intsest. Ja nende jõupingutuste eest jälestusväärset sisu sildistada said paljud meeskonnaliikmed vähem kui 2 dollarit tunnis.
Seotud
- Google Bard saab nüüd rääkida, kuid kas see võib ChatGPT-d välja uputada?
- ChatGPT: viimased uudised, vaidlused ja näpunäited, mida peate teadma
- ChatGPT rekordkasvu kukutas just uus viirusrakendus
2021. aasta novembris alanud töö oli vajalik, kuna ChatGPT eelkäijal GPT-3, kuigi muljetavaldav, oli kalduvus välja voolata. solvavast sisust, kuna selle koolitusandmekogum koostati sadade miljardite sõnade kraapides kõigist maailma nurkadest. võrk.
Keenias asuv meeskond, mida juhib San Francisco firma Sama, märgistaks solvava sisu, et aidata treenige OpenAI vestlusrobot, parandades seeläbi selle andmestikku ja vähendades ebasoodsate asjade tõenäosust väljund.
Time ütles, et kõik neli küsitletud Sama töötajat kirjeldasid, et neil on töö tõttu vaimsed armid. Sama pakkus nõustamisi, kuid töötajate sõnul olid need ebatõhusad ja toimusid seetõttu harva töö nõudmistele, kuigi Sama pressiesindaja ütles Time'ile, et terapeudid on igal pool kättesaadavad aega.
Üks töötaja ütles Time'ile, et šokeeriva materjali lugemine tundus mõnikord piinamisena, lisades, et nädala lõpuks tundsid nad end häirituna.
2022. aasta veebruaris võtsid asjad Sama jaoks veelgi süngema pöörde, kui OpenAI käivitas eraldi ChatGPT-ga mitteseotud projekti, mille kohaselt pidi Kenya meeskond koguma seksuaalse ja vägivaldse iseloomuga pilte. OpenAI ütles Time'ile, et see töö oli vajalik selle tehisintellekti tööriistade turvalisemaks muutmiseks.
Mõne nädala jooksul pärast selle pildipõhise projekti algust ajendas ülesannete murettekitav iseloom Sama tühistama kõik oma lepingud OpenAI, kuigi Time viitab sellele, et selle põhjuseks võis olla ka PR-i väljalangemine sarnasel teemal avaldatud raportist. umbes Facebook umbes samal ajal.
Open AI ütles Time'ile, et samalt palutud kujutiste olemuse osas oli "eksitus". koguda, väites, et see ei palunud kõige äärmuslikumaid kujutisi ega vaadanud ühtegi, mis see oli saadetud.
Kuid lepingute lõpetamine mõjutas töötajate elatist, kuna osa Keenia meeskonnast kaotas töö, teised aga viidi üle madalamapalgalistesse projektidesse.
Aja uurimine pakub ebamugavat, kuid olulist ülevaadet sellest, millist tööd tehakse tehisintellektil töötavate vestlusrobotite kallal, mis on viimasel ajal tehnoloogiatööstust nii põnevil tekitanud.
Kuigi tehnoloogia on muutlik ja potentsiaalselt kasulik, on see selgelt inimhinnaga ja tekitab hulga eetilisi küsimusi selle kohta, kuidas ettevõtted tegutsevad. oma uute tehnoloogiate väljatöötamine ja laiemalt selle kohta, kuidas jõukamad riigid jätkavad vaesematele riikidele vähemsoovitavate ülesannete jaotamist väiksema rahalise raha eest. väljaminekud.
Tehnoloogia taga olevad idufirmad satuvad järgmiste kuude ja aastate jooksul rohkem keskendunud kontrolli alla ning seetõttu oleks neil hea oma tavad esimesel võimalusel üle vaadata ja täiustada.
Digital Trends on Time'i aruande kommenteerimiseks ühendust võtnud OpenAI-ga ja me värskendame seda artiklit, kui kuuleme.
Toimetajate soovitused
- Parimad AI videotöötlustööriistad
- ChatGPT tootja OpenAI seisab silmitsi FTC uurimisega tarbijakaitseseaduste üle
- Elon Muski uue AI-ettevõtte eesmärk on "universumist aru saada"
- ChatGPT veebisaidi liiklus on esimest korda langenud
- Teadlaste sõnul võivad AI läbimurded tulla mesilaste ajude kaudu
Uuendage oma elustiiliDigitaalsed suundumused aitavad lugejatel hoida silma peal kiirel tehnikamaailmal kõigi viimaste uudiste, lõbusate tooteülevaadete, sisukate juhtkirjade ja ainulaadsete lühiülevaadetega.
