A Časové šetření odhalil temnější stránku odvětví chatbotů s umělou inteligencí a zdůraznil, jak alespoň jeden startup používá sporné praktiky ke zlepšení své technologie.
Zpráva Time, zveřejněná ve středu, se zaměřuje na OpenAI podporované Microsoftem a jeho chatbot ChatGPT, technologie, která si v poslední době získala velkou pozornost pro svou pozoruhodnou schopnost vytvářet vysoce přirozený konverzační text.
Doporučená videa
Časová sonda zjistila, že k trénování technologie AI OpenAI využila služeb týmu v Keni, aby se zabývala textem, který zahrnovaly znepokojující témata, jako je sexuální zneužívání dětí, sodomie, vražda, sebevražda, mučení, sebepoškozování a incest. A za jejich snahu označit ohavný obsah dostali mnozí z týmu méně než 2 dolary na hodinu.
Příbuzný
- Google Bard nyní umí mluvit, ale dokáže přehlušit ChatGPT?
- ChatGPT: nejnovější zprávy, kontroverze a tipy, které potřebujete vědět
- Rekordní růst ChatGPT byl právě sesazen z trůnu novou virální aplikací
Práce, která začala v listopadu 2021, byla nezbytná, protože předchůdce ChatGPT, GPT-3, i když působivý, měl tendenci chrlit urážlivý obsah, protože jeho tréninková datová sada byla sestavena seškrabováním stovek miliard slov ze všech koutů světa web.
Tým se sídlem v Keni, provozovaný sanfranciskou firmou Sama, by označil urážlivý obsah jako pomoc trénujte chatbota OpenAI, čímž zlepšujete jeho datovou sadu a snižujete šance na jakékoli nežádoucí výstup.
Time uvedl, že všichni čtyři zaměstnanci Sama, s nimiž mluvil, popsali, že byli duševně zjizvení svou prací. Sama nabídla poradenská sezení, ale zaměstnanci uvedli, že byly neúčinné a konaly se jen zřídka požadavky práce, i když mluvčí Sama řekl Time, že terapeuti jsou dostupní kdekoli čas.
Jeden pracovník řekl Time, že čtení šokujícího materiálu někdy připadalo jako „mučení“ a dodal, že se na konci týdne cítili „vyrušeni“.
V únoru 2022 nabraly věci pro Sama ještě temnější spád, když OpenAI spustila samostatný projekt nesouvisející s ChatGPT, který od svého keňského týmu vyžadoval, aby sbíral obrázky sexuální a násilné povahy. OpenAI řekl Time, že práce je nezbytná pro zvýšení bezpečnosti jeho nástrojů AI.
Během týdnů od zahájení tohoto projektu založeného na obrázcích, alarmující povaha úkolů přiměla Samu, aby zrušila všechny své smlouvy s OpenAI, i když Time naznačuje, že to mohlo být také vyvoláno PR dopadem zprávy na podobné téma, kterou zveřejnil o Facebook přibližně ve stejnou dobu.
Otevřená umělá inteligence řekla Time, že došlo k „nesprávné komunikaci“ o povaze snímků, o které Sama požádala shromažďovat a trvat na tom, že nežádal o nejextrémnější snímky a neviděl žádné, které by byly odesláno.
Ukončení smluv však ovlivnilo živobytí pracovníků, přičemž někteří z týmu v Keni přišli o práci, zatímco jiní byli přesunuti do méně placených projektů.
Časový průzkum nabízí nepohodlný, ale důležitý pohled na druh práce, která se odehrává v chatbotech poháněných umělou inteligencí, kteří v poslední době tak vzrušují technologický průmysl.
Ačkoli je tato technologie transformativní a potenciálně přínosná, zjevně přichází na lidskou cenu a vyvolává spoustu etických otázek o tom, jak společnosti postupují. vyvíjejí své nové technologie a obecněji o tom, jak bohatší země pokračují v poskytování méně žádoucích úkolů chudším zemím za nižší finanční výdaje.
Startupy stojící za touto technologií budou v nadcházejících měsících a letech pod cílenějším dohledem, a proto by udělali dobře, kdyby své postupy při nejbližší příležitosti přezkoumali a zlepšili.
Společnost Digital Trends požádala OpenAI o komentář ke zprávě Time a my tento článek aktualizujeme, jakmile se ozveme.
Doporučení redakce
- Nejlepší nástroje pro úpravu videa AI
- Tvůrce ChatGPT OpenAI čelí vyšetřování FTC kvůli zákonům na ochranu spotřebitele
- Nová společnost Elona Muska zaměřená na umělou inteligenci si klade za cíl ‚porozumět vesmíru‘
- Návštěvnost webu ChatGPT poprvé klesla
- Vědci říkají, že průlomy v umělé inteligenci by mohly přijít prostřednictvím mozku včel
Upgradujte svůj životní stylDigitální trendy pomáhají čtenářům mít přehled o rychle se měnícím světě technologií se všemi nejnovějšími zprávami, zábavnými recenzemi produktů, zasvěcenými úvodníky a jedinečnými náhledy.
