A Idővizsgálat felfedte az AI chatbot-ipar sötétebb oldalát, rávilágítva arra, hogy legalább egy startup megkérdőjelezhető gyakorlatokat alkalmazott technológiája fejlesztésére.
A Time szerdán közzétett jelentése a Microsoft által támogatott OpenAI-ra és a ChatGPT chatbotja, egy olyan technológia, amely a közelmúltban nagy figyelmet kapott a rendkívül természetes társalgási szöveg előállítására való figyelemre méltó képessége miatt.
Ajánlott videók
A Time vizsgálata megállapította, hogy az AI-technológia betanításához az OpenAI egy kenyai csapat szolgáltatásait használta fel, hogy áttanulmányozza a szöveget, olyan zavaró témákat tartalmazott, mint a gyermekek szexuális visszaélése, állati bánásmód, gyilkosság, öngyilkosság, kínzás, önsértés és vérfertőzés. És az undorító tartalom megjelölésére tett erőfeszítéseikért a csapatból sokan kevesebb mint 2 dollárt kaptak óránként.
Összefüggő
- A Google Bard már beszélni tud, de ki tudja-e fojtani a ChatGPT-t?
- ChatGPT: a legfrissebb hírek, viták és tippek, amelyeket tudnia kell
- A ChatGPT rekordnövekedését éppen egy új vírusalkalmazás tette le a trónról
A 2021 novemberében indult munkára azért volt szükség, mert a ChatGPT elődje, a GPT-3, bár lenyűgöző volt, hajlamos volt kidobni. nem sértő tartalom, mivel a képzési adatkészletet úgy állították össze, hogy több száz milliárd szót gyűjtöttek össze a web.
A kenyai székhelyű csapat, amelyet a San Franciscó-i Sama cég működtet, felcímkézné a sértő tartalmat, hogy segítsen képezze az OpenAI chatbotját, javítva ezzel az adatkészletét, és csökkentve a kifogásolható lehetőségeket Kimenet.
A Time szerint az általa megkérdezett mind a négy Sama-alkalmazott leírta, hogy mentálisan megsérültek a munkájuk miatt. Sama tanácsadást ajánlott fel, de az alkalmazottak azt mondták, hogy ezek nem voltak hatékonyak, és emiatt ritkán került sor a munka követelményeinek megfelelően, bár Sama szóvivője azt mondta a Time-nak, hogy a terapeuták bármikor elérhetők idő.
Az egyik dolgozó a Time-nak elmondta, hogy a sokkoló anyag olvasása néha „kínzásnak” tűnt, hozzátéve, hogy a hét végére „zavartnak” érezték magukat.
2022 februárjában a dolgok még sötétebb fordulatot vettek Sama esetében, amikor az OpenAI elindított egy külön, a ChatGPT-vel nem kapcsolatos projektet, amely arra kötelezte a kenyai csapatot, hogy szexuális és erőszakos képeket gyűjtsön. Az OpenAI elmondta a Time-nak, hogy a munkára szükség volt AI-eszközeinek biztonságosabbá tételéhez.
A képalapú projekt indulását követő heteken belül a feladatok riasztó jellege arra késztette Sama-t, hogy felmondja az összes szerződését Az OpenAI, bár a Time szerint ezt az általa közzétett, hasonló témájú jelentés PR-csapása is ösztönözhette. ról ről Facebook nagyjából ugyanabban az időben.
Az Open AI azt mondta a Time-nak, hogy „téves kommunikáció” történt a képek természetével kapcsolatban, amelyekre Samát kérték összegyűjteni, ragaszkodva ahhoz, hogy nem a legszélsőségesebb képeket kérte, és nem nézett meg olyanokat, amelyek az lettek volna küldött.
A szerződések megszűnése azonban kihatással volt a dolgozók megélhetésére, a kenyai csapat egy része elveszítette állását, míg mások alacsonyabb fizetésű projektekbe kerültek.
Az idő vizsgálata kényelmetlen, de fontos pillantást vet az AI-alapú chatbotokra, amelyek a közelmúltban annyira izgalomba hozták a technológiai ipart.
Bár átalakító és potenciálisan előnyös, a technológia nyilvánvalóan emberi költségekkel jár, és számos etikai kérdést vet fel a vállalatok működésével kapcsolatban. új technológiáik fejlesztése, és tágabb értelemben arról, hogy a gazdagabb országok hogyan adnak tovább kevésbé kívánatos feladatokat a szegényebb nemzeteknek alacsonyabb pénzügyi támogatásért. költség.
A technológia mögött álló startupok az elkövetkező hónapokban és években fókuszáltabb ellenőrzés alá kerülnek, ezért jó lenne, ha a lehető leghamarabb felülvizsgálnák és javítanák gyakorlataikat.
A Digital Trends megkereste az OpenAI-t, hogy észrevételt tegyen a Time jelentésével kapcsolatban, és frissítjük ezt a cikket, ha visszajelzést kapunk.
Szerkesztői ajánlások
- A legjobb AI videószerkesztő eszközök
- A ChatGPT-t gyártó OpenAI-t az FTC vizsgálja a fogyasztóvédelmi törvényekkel kapcsolatban
- Elon Musk új mesterséges intelligencia-cégének célja, hogy „megértse az univerzumot”
- A ChatGPT webhely forgalma először csökkent
- A mesterséges intelligencia áttörései a méhek agyán keresztül jöhetnek létre a tudósok szerint
Frissítse életmódjátA Digital Trends segítségével az olvasók nyomon követhetik a technológia rohanó világát a legfrissebb hírekkel, szórakoztató termékismertetőkkel, éleslátó szerkesztőségekkel és egyedülálló betekintésekkel.
