А Истрага времена је разоткрио мрачнију страну индустрије четботова вештачке интелигенције, наглашавајући како је бар један стартап користио сумњиве праксе да побољша своју технологију.
Објављен у среду, Тајмов извештај се фокусира на ОпенАИ који подржава Мицрософт и његов ЦхатГПТ цхатбот, технологија која је недавно привукла велику пажњу због своје изузетне способности да произведе веома природан конверзацијски текст.
Препоручени видео снимци
Тиме-ова сонда је открила да је ОпенАИ користио услуге тима у Кенији да би обучио АИ технологију да би проучио текст који укључивале узнемирујуће теме као што су сексуално злостављање деце, зверство, убиства, самоубиства, мучење, самоповређивање и инцест. А за своје напоре да етикетирају одвратан садржај, многи у тиму су добили мање од 2 долара на сат.
Повезан
- Гоогле Бард сада може да говори, али може ли да пригуши ЦхатГПТ?
- ЦхатГПТ: најновије вести, контроверзе и савети које треба да знате
- Рекордни раст ЦхатГПТ-а управо је срушен новом вирусном апликацијом
Посао, који је почео у новембру 2021, био је неопходан јер је ЦхатГПТ-ов претходник, ГПТ-3, иако импресиван, имао тенденцију да избацује увредљивог садржаја пошто је његов скуп података за обуку састављен тако што је извучен стотине милијарди речи из свих крајева веб.
Тим са седиштем у Кенији, којим управља фирма Сама из Сан Франциска, означио би увредљив садржај као помоћ обучите ОпенАИ-јевог цхат бота, побољшавајући на тај начин његов скуп података и смањујући шансе за било какве неприлике излаз.
Тајм је рекао да су сва четворица запослених у Сами које је интервјуисао описала да су ментално оштећени својим радом. Сама је нудила сесије саветовања, али су запослени рекли да су били неефикасни и да се ретко одржавају због захтеви посла, иако је портпарол Сама рекао за Тајм да су терапеути доступни било коме време.
Један радник је за Тиме рекао да им је читање шокантног материјала понекад изгледало као „мучење“, додајући да су се до краја недеље осећали „поремећено“.
У фебруару 2022. ствари су за Саму добиле још мрачнији заокрет када је ОпенАИ покренуо посебан пројекат који није повезан са ЦхатГПТ-ом који је захтевао од свог кенијског тима да прикупља слике сексуалне и насилне природе. ОпенАИ је рекао за Тиме да је посао био неопходан да би његови АИ алати били сигурнији.
У року од неколико недеља од почетка овог пројекта заснованог на сликама, алармантна природа задатака навела је Саму да откаже све своје уговоре са ОпенАИ, иако Тиме сугерише да је то такође могло бити подстакнуто последицама ПР-а из извештаја о сличној теми који је објавио О томе Фејсбук отприлике у исто време.
Отворени АИ је рекао Тиме-у да је дошло до „погрешне комуникације“ о природи слика које је тражио од Саме прикупља, инсистирајући на томе да није тражио најекстремније слике и да није видео ниједну да је послао.
Али раскидање уговора утицало је на егзистенцију радника, при чему су неки од тима у Кенији остали без посла, док су други пребачени на мање плаћене пројекте.
Истрага времена нуди непријатан, али важан поглед на врсту посла који иде у четботе са вештачком интелигенцијом који су недавно толико узбудили технолошку индустрију.
Иако је трансформативна и потенцијално корисна, технологија очигледно има људску цену и поставља низ етичких питања о томе како компаније раде развијају своје нове технологије, и шире о томе како богатије земље настављају да дају мање пожељне задатке сиромашнијим земљама за ниже финансијске издатак.
Стартапи који стоје иза ове технологије биће под фокусиранијим надзором у наредним месецима и годинама, па би било добро да преиспитају и унапреде своје праксе што је пре могуће.
Дигитални трендови су се обратили ОпенАИ-у за коментар на извештај Тиме-а и ажурираћемо овај чланак када добијемо одговор.
Препоруке уредника
- Најбољи АИ алати за уређивање видеа
- Произвођач ЦхатГПТ-а ОпенАИ суочава се са истрагом ФТЦ-а због закона о заштити потрошача
- Нова АИ компанија Елона Муска има за циљ да „разуме универзум“
- Саобраћај на ЦхатГПТ веб локацији је по први пут опао
- Пробоји вештачке интелигенције могли би доћи преко мозгова пчела, кажу научници
Надоградите свој животни стилДигитални трендови помажу читаоцима да прате брзи свет технологије са свим најновијим вестима, забавним рецензијама производа, проницљивим уводницима и јединственим кратким прегледима.
