A Laika izmeklēšana ir atklājis AI tērzēšanas robotu nozares neskaidrāko pusi, uzsverot, kā vismaz viens jaunuzņēmums ir izmantojis apšaubāmas metodes, lai uzlabotu savu tehnoloģiju.
Trešdien publicētajā Time ziņojumā galvenā uzmanība pievērsta Microsoft atbalstītajam OpenAI un tā ChatGPT tērzēšanas robots, tehnoloģija, kas pēdējā laikā ir izpelnījusies lielu uzmanību ar tās ievērojamo spēju radīt ļoti dabisku sarunvalodas tekstu.
Ieteiktie videoklipi
Laiks atklāja, ka, lai apmācītu AI tehnoloģiju, OpenAI izmantoja Kenijas komandas pakalpojumus, lai aplūkotu tekstu, kas ietvēra satraucošus priekšmetus, piemēram, seksuālu vardarbību pret bērniem, dzīvnieciskumu, slepkavību, pašnāvību, spīdzināšanu, paškaitējumu un incests. Un par saviem centieniem apzīmēt pretīgo saturu, daudzi komandas locekļi saņēma mazāk nekā 2 USD stundā.
Saistīts
- Google Bard tagad var runāt, bet vai tas var noslāpēt ChatGPT?
- ChatGPT: jaunākās ziņas, strīdi un padomi, kas jums jāzina
- ChatGPT rekordlielo izaugsmi tikko gāza jauna vīrusu lietotne
Darbs, kas tika sākts 2021. gada novembrī, bija nepieciešams, jo ChatGPT priekšgājējam GPT-3, lai arī tas bija iespaidīgs, bija tendence izspļaut no aizskaroša satura, jo tā apmācības datu kopa tika apkopota, nokasot simtiem miljardu vārdu no visiem tīmeklī.
Kenijā bāzētā komanda, kuru vada Sanfrancisko firma Sama, marķētu aizskarošu saturu, lai palīdzētu apmācīt OpenAI tērzēšanas robotu, tādējādi uzlabojot tā datu kopu un samazinot jebkādu nevēlamu iespēju izvade.
Time teica, ka visi četri Sama darbinieki, kurus tā intervēja, aprakstīja, ka viņu darbs ir garīgi ievainots. Sama piedāvāja konsultācijas, taču darbinieki teica, ka tās bija neefektīvas un tāpēc notika reti darba prasībām, lai gan Sama pārstāvis Time teica, ka terapeiti ir pieejami jebkurā laikā laiks.
Kāds darbinieks laikrakstam Time pastāstīja, ka šokējošā materiāla lasīšana dažkārt šķita kā "spīdzināšana", piebilstot, ka nedēļas beigās viņi jutās "satraukti".
2022. gada februārī Sama situācija mainījās vēl drūmāk, kad OpenAI uzsāka atsevišķu ar ChatGPT nesaistītu projektu, kura ietvaros Kenijas komandai bija jāievāc seksuāla un vardarbīga rakstura attēli. OpenAI pastāstīja Time, ka darbs bija nepieciešams, lai padarītu tā AI rīkus drošākus.
Dažu nedēļu laikā pēc šī uz attēliem balstītā projekta sākuma uzdevumu satraucošais raksturs mudināja Sama atcelt visus līgumus ar OpenAI, lai gan Time norāda, ka to varēja izraisīt arī PR nokrišņi no ziņojuma par līdzīgu tēmu, ko tā publicēja. par Facebook aptuveni tajā pašā laikā.
Open AI pastāstīja Time, ka ir notikusi "nepareiza komunikācija" par attēlu raksturu, ko tā lūdza Sama apkopot, uzstājot, ka tas nav prasījis ekstrēmākos attēlus un nav skatījis nevienu, kas tāds ir bijis nosūtīts.
Taču līgumu pārtraukšana ietekmēja strādnieku iztikas līdzekļus, daži no Kenijas komandas zaudēja darbu, bet citi tika pārcelti uz mazāk apmaksātiem projektiem.
Laika izmeklēšana piedāvā neērtu, bet svarīgu skatījumu uz darbu, kas tiek veikts ar AI darbināmiem tērzēšanas robotiem, kas nesen ir tik ļoti sajūsminājuši tehnoloģiju nozari.
Kaut arī tehnoloģija ir pārveidojoša un potenciāli izdevīga, tā nepārprotami maksā cilvēkus un rada virkni ētisku jautājumu par to, kā uzņēmumi darbojas. attīstīt savas jaunās tehnoloģijas un plašākā nozīmē par to, kā turīgākas valstis turpina nabadzīgākām valstīm piešķirt mazāk vēlamos uzdevumus, lai iegūtu mazāku finansiālo līmeni. izdevumi.
Jaunuzņēmumi, kas darbojas tehnoloģiju jomā, nākamajos mēnešos un gados tiks pakļauti precīzākai uzraudzībai, tāpēc tiem būtu lietderīgi pēc iespējas ātrāk pārskatīt un uzlabot savu praksi.
Digital Trends ir sazinājies ar OpenAI, lai komentētu Time ziņojumu, un mēs atjaunināsim šo rakstu, kad saņemsim atbildes.
Redaktoru ieteikumi
- Labākie AI video rediģēšanas rīki
- ChatGPT veidotājs OpenAI saskaras ar FTC izmeklēšanu par patērētāju aizsardzības likumiem
- Elona Muska jaunā AI uzņēmuma mērķis ir "saprast Visumu"
- ChatGPT vietnes trafika ir samazinājusies pirmo reizi
- Zinātnieki saka, ka mākslīgā intelekta sasniegumi varētu notikt caur bišu smadzenēm
Uzlabojiet savu dzīvesveiduDigitālās tendences palīdz lasītājiem sekot līdzi straujajai tehnoloģiju pasaulei, izmantojot visas jaunākās ziņas, jautrus produktu apskatus, ieskatu saturošus rakstus un unikālus ieskatus.