A Investigarea timpului a dezvăluit partea mai tulbure a industriei chatbot-urilor AI, evidențiind modul în care cel puțin un startup a folosit practici discutabile pentru a-și îmbunătăți tehnologia.
Publicat miercuri, raportul Time se concentrează pe OpenAI susținut de Microsoft și chatbot-ul său ChatGPT, o tehnologie care a câștigat multă atenție recent pentru capacitatea sa remarcabilă de a produce text conversațional extrem de natural.
Videoclipuri recomandate
Sonda lui Time a constatat că pentru a instrui tehnologia AI, OpenAI a folosit serviciile unei echipe din Kenya pentru a studia textul care au inclus subiecte tulburătoare, cum ar fi abuzul sexual asupra copiilor, bestialitatea, crima, sinuciderea, tortura, autovătămarea și incest. Și pentru eforturile lor de a eticheta conținutul detestabil, mulți din echipă au primit mai puțin de 2 dolari pe oră.
Legate de
- Google Bard poate vorbi acum, dar poate îneca ChatGPT?
- ChatGPT: cele mai recente știri, controverse și sfaturi pe care trebuie să le cunoașteți
- Creșterea record a ChatGPT tocmai a fost detronată de o nouă aplicație virală
Lucrarea, care a început în noiembrie 2021, a fost necesară deoarece predecesorul ChatGPT, GPT-3, deși era impresionant, avea tendința de a vărsa. elimină conținutul ofensator, deoarece setul său de date de antrenament fusese compilat prin răzuirea a sute de miliarde de cuvinte din toate colțurile web.
Echipa din Kenya, operată de firma Sama din San Francisco, ar eticheta conținutul ofensiv pentru a ajuta antrenează chatbot-ul OpenAI, îmbunătățindu-și astfel setul de date și reducând șansele apariției oricăror obiecte inacceptabile ieșire.
Time a spus că toți cei patru angajați Sama pe care i-a intervievat au descris că au fost afectați mental de munca lor. Sama a oferit ședințe de consiliere, dar angajații au spus că acestea sunt ineficiente și au avut loc rar din cauza cerințele postului, deși un purtător de cuvânt al Sama a declarat pentru Time că terapeuții sunt accesibili oricând timp.
Un lucrător a declarat pentru Time că citirea materialului șocant a fost uneori o „tortură”, adăugând că s-au simțit „deranjați” până la sfârșitul săptămânii.
În februarie 2022, lucrurile au luat o întorsătură și mai întunecată pentru Sama când OpenAI a lansat un proiect separat, fără legătură cu ChatGPT, care a cerut echipei sale din Kenya să colecteze imagini de natură sexuală și violentă. OpenAI a spus Time că munca este necesară pentru a face instrumentele sale AI mai sigure.
La câteva săptămâni de la începerea acestui proiect bazat pe imagini, natura alarmantă a sarcinilor a determinat-o pe Sama să-și anuleze toate contractele cu OpenAI, deși Time sugerează că ar fi putut fi determinat și de consecințele PR dintr-un raport pe un subiect similar pe care l-a publicat despre Facebook cam in acelasi timp.
Open AI a spus Time că a existat „o comunicare greșită” cu privire la natura imaginilor pe care ia cerut-o lui Sama colectați, insistând că nu a cerut cele mai extreme imagini și nu a văzut niciuna care a fost trimis.
Însă încheierea contractelor a afectat mijloacele de trai ale lucrătorilor, o parte din echipă din Kenya și-au pierdut locurile de muncă, în timp ce alții au fost mutați în proiecte mai puțin plătite.
Ancheta timpului oferă o privire incomodă, dar importantă, asupra tipului de muncă care are loc în chatbot-urile alimentate cu inteligență artificială, care au încântat recent industria tehnologiei.
Deși transformatoare și potențial benefică, tehnologia are în mod clar un cost uman și ridică o serie de întrebări etice despre modul în care se desfășoară companiile. dezvoltarea noilor tehnologii și, mai larg, despre modul în care țările mai bogate continuă să ofere sarcini mai puțin dezirabile națiunilor mai sărace pentru o finanțare mai mică. cheltuieli.
Startup-urile din spatele tehnologiei vor fi supuse unui control mai concentrat în lunile și anii următori, așa că ar face bine să-și revizuiască și să-și îmbunătățească practicile cât mai curând posibil.
Digital Trends a contactat OpenAI pentru a comenta raportul Time și vom actualiza acest articol când vom primi răspunsuri.
Recomandările editorilor
- Cele mai bune instrumente de editare video AI
- Creatorul de ChatGPT OpenAI se confruntă cu o anchetă FTC cu privire la legile privind protecția consumatorilor
- Noua companie de inteligență artificială a lui Elon Musk își propune să „înțeleagă universul”
- Traficul site-ului ChatGPT a scăzut pentru prima dată
- Descoperirile AI ar putea veni prin creierul albinelor, spun oamenii de știință
Îmbunătățește-ți stilul de viațăDigital Trends îi ajută pe cititori să țină cont de lumea rapidă a tehnologiei cu toate cele mai recente știri, recenzii distractive despre produse, editoriale perspicace și anticipări unice.
