A Aikatutkimus on paljastanut tekoäly-chatbot-teollisuuden hämärämmän puolen ja korostanut, kuinka ainakin yksi startup on käyttänyt kyseenalaisia käytäntöjä parantaakseen teknologiaansa.
Keskiviikkona julkaistu Timen raportti keskittyy Microsoftin tukemiin OpenAI: hin ja sen ChatGPT-chatbot, tekniikka, joka on saanut viime aikoina paljon huomiota sen huomattavasta kyvystä tuottaa erittäin luonnollista keskustelutekstiä.
Suositellut videot
Timen tutkinta havaitsi, että OpenAI käytti tekoälyteknologian kouluttamiseen Keniassa työskentelevän tiimin palveluita tutkiakseen tekstiä, joka sisälsi häiritseviä aiheita, kuten lasten seksuaalista hyväksikäyttöä, eläimellisyyttä, murhaa, itsemurhaa, kidutusta, itsensä vahingoittamista ja insesti. Ja yrityksistään leimata vastenmielistä sisältöä, monet tiimin jäsenet saivat alle 2 dollaria tunnissa.
Liittyvät
- Google Bard voi nyt puhua, mutta voiko se tukahduttaa ChatGPT: n?
- ChatGPT: viimeisimmät uutiset, kiistat ja vinkit, jotka sinun on tiedettävä
- ChatGPT: n ennätyskasvu syrjäytti juuri uuden virussovelluksen
Marraskuussa 2021 alkanut työ oli välttämätöntä, koska ChatGPT: n edeltäjällä, GPT-3:lla, oli vaikuttava, mutta sillä oli taipumus sylkeä. loukkaavasta sisällöstä, koska sen koulutustietojoukko oli koottu kaavimalla satoja miljardeja sanoja web.
Keniassa toimiva San Francisco-yhtiön Saman johtama tiimi merkitsee loukkaavaa sisältöä auttaakseen kouluttaa OpenAI: n chatbottia, mikä parantaa sen tietojoukkoa ja vähentää minkään epäsuotuisan esiintymisen mahdollisuuksia ulostulo.
Time kertoi, että kaikki neljä haastateltua Saman työntekijää kuvailivat olevansa henkisesti arpeutuneita työstään. Sama tarjosi neuvontaa, mutta työntekijät sanoivat, että ne olivat tehottomia ja tapahtuivat harvoin Työn vaatimukset, vaikka Saman tiedottaja kertoi Timelle, että terapeutit olivat tavoitettavissa mistä tahansa aika.
Eräs työntekijä kertoi Timelle, että järkyttävän materiaalin lukeminen tuntui joskus "kidutukselta", ja lisäsi, että he tunsivat olevansa "häiriöitä" viikon loppuun mennessä.
Helmikuussa 2022 Saman asiat saivat vielä synkemmän käänteen, kun OpenAI käynnisti erillisen ChatGPT: hen liittymättömän projektin, joka vaati Kenia-tiimiä keräämään seksuaalisia ja väkivaltaisia kuvia. OpenAI kertoi Timelle, että työ oli välttämätöntä tekoälytyökalujensa turvallisuuden parantamiseksi.
Muutaman viikon sisällä tämän kuvapohjaisen projektin alkamisesta tehtävien hälyttävä luonne sai Saman irtisanomaan kaikki sopimuksensa OpenAI, vaikka Time ehdottaa, että se saattoi johtua myös PR-laskeumasta samankaltaista aihetta käsittelevästä raportista, jonka se julkaisi. noin Facebook suunnilleen samaan aikaan.
Open AI kertoi Timelle, että Samaa pyytämien kuvien luonteesta oli tapahtunut "virheviesti". kerätä, väittäen, että se ei ollut pyytänyt kaikkein äärimmäisimpiä kuvia eikä ollut katsonut mitään, mitä se oli ollut lähetetty.
Mutta sopimusten irtisanominen vaikutti työntekijöiden toimeentuloon, ja jotkut Kenian tiimistä menettivät työpaikkansa, kun taas toiset siirrettiin vähemmän palkattuihin projekteihin.
Ajan tutkimus tarjoaa epämiellyttävän mutta tärkeän katsauksen siihen, millaista työtä tehdään tekoälykäyttöisten chatbottien parissa, jotka ovat viime aikoina saaneet teknologiateollisuuden niin innostumaan.
Vaikka teknologia on muuntavaa ja mahdollisesti hyödyllistä, se tulee selvästikin inhimillisin kustannuksin ja herättää joukon eettisiä kysymyksiä yritysten toiminnasta. kehittää uusia teknologioitaan ja laajemmin siitä, kuinka vauraat maat jatkavat vähemmän toivottavien tehtävien jakamista köyhemmille kansoille alhaisemman rahoituksen vuoksi. menot.
Tekniikan takana olevat startupit joutuvat tarkemman tarkastelun kohteeksi tulevina kuukausina ja vuosina, joten niiden olisi hyvä tarkistaa ja parantaa käytäntöjään mahdollisimman pian.
Digital Trends on pyytänyt OpenAI: ta kommentoimaan Timen raporttia, ja päivitämme tämän artikkelin, kun saamme vastauksen.
Toimittajien suositukset
- Parhaat AI-videonmuokkaustyökalut
- ChatGPT-valmistaja OpenAI kohtaa FTC: n tutkinnan kuluttajansuojalaeista
- Elon Muskin uuden tekoälyyrityksen tavoitteena on "ymmärtää maailmankaikkeus"
- ChatGPT-verkkosivustojen liikenne on laskenut ensimmäistä kertaa
- Tekoälyn läpimurto voi tulla mehiläisten aivojen kautta, tutkijat sanovat
Päivitä elämäntapasiDigital Trends auttaa lukijoita pysymään tekniikan nopeatempoisessa maailmassa uusimpien uutisten, hauskojen tuotearvostelujen, oivaltavien toimitusten ja ainutlaatuisten kurkistusten avulla.
