А Разследване на времето разкри по-мрачната страна на индустрията на чатботовете с изкуствен интелект, като подчерта как поне един стартиращ бизнес е използвал съмнителни практики, за да подобри технологията си.
Публикуван в сряда, докладът на Time се фокусира върху подкрепения от Microsoft OpenAI и неговия ChatGPT чатбот, технология, която напоследък привлече много внимание заради забележителната си способност да създава изключително естествен разговорен текст.
Препоръчани видеоклипове
Проучването на Time установи, че за да обучи AI технологията, OpenAI е използвал услугите на екип в Кения, за да разгледа текста, който включва смущаващи теми като сексуално насилие над деца, скотоложство, убийство, самоубийство, изтезания, самонараняване и кръвосмешение. И за усилията си да етикетират отвратителното съдържание, много от екипа получаваха по-малко от 2 долара на час.
Свързани
- Google Bard вече може да говори, но може ли да заглуши ChatGPT?
- ChatGPT: последните новини, спорове и съвети, които трябва да знаете
- Рекордният растеж на ChatGPT току-що беше детрониран от ново вирусно приложение
Работата, която започна през ноември 2021 г., беше необходима, тъй като предшественикът на ChatGPT, GPT-3, макар и впечатляващ, имаше тенденция да бълва от обидно съдържание, тъй като неговият набор от данни за обучение е бил съставен чрез изтриване на стотици милиарди думи от всички краища на уеб.
Базираният в Кения екип, управляван от фирмата Sama в Сан Франциско, ще етикетира обидното съдържание като помощ обучете чатбота на OpenAI, като по този начин подобрите неговия набор от данни и намалите шансовете за всякакви нежелателни изход.
Time каза, че и четиримата интервюирани служители на Sama описват, че са психически белязани от работата си. Сама предложи сесии за консултиране, но служителите казаха, че са неефективни и рядко се провеждат поради изискванията на работата, въпреки че говорител на Sama каза пред Time, че терапевтите са достъпни по всяко време време.
Един работник каза пред Time, че четенето на шокиращия материал понякога се чувства като „мъчение“, добавяйки, че се чувстват „обезпокоени“ до края на седмицата.
През февруари 2022 г. нещата взеха още по-мрачен обрат за Sama, когато OpenAI стартира отделен проект, несвързан с ChatGPT, който изискваше екипът му в Кения да събира изображения със сексуално и насилствено естество. OpenAI каза пред Time, че работата е необходима, за да направи своите AI инструменти по-безопасни.
В рамките на седмици след стартирането на този проект, базиран на изображения, тревожният характер на задачите накара Sama да анулира всичките си договори с OpenAI, въпреки че Time предполага, че може да е бил предизвикан и от PR последиците от доклад по подобна тема, който публикува относно Facebook приблизително по същото време.
Open AI каза на Time, че е имало „погрешно разбиране“ относно естеството на изображенията, които поиска от Сама събира, настоявайки, че не е искал най-екстремните изображения и не е гледал такива, които са били изпратено.
Но прекратяването на договорите се отрази на поминъка на работниците, като някои от екипа в Кения загубиха работата си, докато други бяха преместени в по-нископлатени проекти.
Разследването на времето предлага неудобен, но важен поглед към вида работа, която се извършва в задвижваните от изкуствен интелект чатботове, които напоследък толкова вълнуват технологичната индустрия.
Въпреки че е трансформираща и потенциално полезна, технологията очевидно идва на човешка цена и повдига множество етични въпроси за това как работят компаниите разработване на техните нови технологии и по-общо за това как по-богатите страни продължават да предоставят по-малко желани задачи на по-бедните нации срещу по-ниски финансови разходи.
Стартъпите, които стоят зад технологията, ще бъдат подложени на по-фокусиран контрол през следващите месеци и години и затова би било добре да прегледат и подобрят практиките си при първа възможност.
Digital Trends се свърза с OpenAI за коментар относно доклада на Time и ние ще актуализираме тази статия, когато получим отговор.
Препоръки на редакторите
- Най-добрите AI инструменти за редактиране на видео
- Създателят на ChatGPT OpenAI е изправен пред разследване на FTC относно законите за защита на потребителите
- Новата AI компания на Илон Мъск има за цел да „разбере вселената“
- Трафикът на уебсайта на ChatGPT е спаднал за първи път
- Пробивите в ИИ могат да дойдат чрез мозъците на пчелите, твърдят учени
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
