A Tijd onderzoek heeft de duisterder kant van de AI-chatbot-industrie blootgelegd en benadrukt hoe ten minste één startup dubieuze praktijken heeft gebruikt om zijn technologie te verbeteren.
Het rapport van Time, gepubliceerd op woensdag, richt zich op door Microsoft ondersteunde OpenAI en zijn ChatGPT-chatbot, een technologie die de laatste tijd veel aandacht heeft gekregen vanwege het opmerkelijke vermogen om zeer natuurlijke conversatietekst te produceren.
Aanbevolen video's
Time's sonde ontdekte dat OpenAI voor het trainen van de AI-technologie de diensten van een team in Kenia gebruikte om zich te verdiepen in de tekst die bevat verontrustende onderwerpen zoals seksueel misbruik van kinderen, bestialiteit, moord, zelfmoord, marteling, zelfbeschadiging en incest. En voor hun inspanningen om de weerzinwekkende inhoud te labelen, ontvingen velen van het team minder dan $ 2 per uur.
Verwant
- Google Bard kan nu spreken, maar kan het ChatGPT overstemmen?
- ChatGPT: het laatste nieuws, controverses en tips die u moet weten
- De recordgroei van ChatGPT is zojuist onttroond door een nieuwe virale app
Het werk, dat in november 2021 begon, was nodig omdat de voorganger van ChatGPT, GPT-3, hoewel indrukwekkend, de neiging had om te spuwen uit aanstootgevende inhoud omdat de trainingsgegevensset was samengesteld door honderden miljarden woorden uit alle hoeken van de web.
Het in Kenia gevestigde team, beheerd door het bedrijf Sama uit San Francisco, zou de aanstootgevende inhoud labelen om te helpen train de chatbot van OpenAI, waardoor de dataset wordt verbeterd en de kans op bezwaar wordt verkleind uitgang.
Time zei dat alle vier de Sama-medewerkers die het interviewde, beschreven dat ze mentaal getekend waren door hun werk. Sama bood counselingsessies aan, maar de werknemers zeiden dat ze niet effectief waren en zelden plaatsvonden vanwege de eisen van het werk, hoewel een woordvoerder van Sama tegen Time zei dat de therapeuten altijd bereikbaar waren tijd.
Een werknemer vertelde Time dat het lezen van het schokkende materiaal soms als "marteling" voelde, eraan toevoegend dat ze zich tegen het einde van de week "gestoord" voelden.
In februari 2022 namen de zaken een nog donkerdere wending voor Sama toen OpenAI een apart project lanceerde dat geen verband hield met ChatGPT, waarvoor het Keniaanse team beelden van seksuele en gewelddadige aard moest verzamelen. OpenAI vertelde Time dat het werk nodig was om zijn AI-tools veiliger te maken.
Binnen enkele weken nadat dit op afbeeldingen gebaseerde project van start ging, was de alarmerende aard van de taken voor Sama aanleiding om al zijn contracten met OpenAI, hoewel Time suggereert dat het ook kan zijn ingegeven door de PR-uitval van een rapport over een soortgelijk onderwerp dat het heeft gepubliceerd over Facebook rond dezelfde tijd.
Open AI vertelde Time dat er "een miscommunicatie" was geweest over de aard van de beelden die Sama had gevraagd verzamelen, volhoudend dat het niet om de meest extreme beelden had gevraagd en er geen had gezien dat het was geweest verstuurd.
Maar het beëindigen van de contracten had gevolgen voor het levensonderhoud van de arbeiders, waarbij een deel van het team in Kenia hun baan verloor, terwijl anderen werden overgeplaatst naar lagerbetaalde projecten.
Tijdsonderzoek biedt een ongemakkelijke maar belangrijke kijk op het soort werk dat wordt gedaan in de AI-aangedreven chatbots die de technologie-industrie de laatste tijd zo enthousiast hebben gemaakt.
Hoewel de technologie transformerend en potentieel heilzaam is, brengt het duidelijk menselijke kosten met zich mee en roept het een hele reeks ethische vragen op over hoe bedrijven te werk gaan ontwikkelen van hun nieuwe technologieën, en meer in het algemeen over hoe rijkere landen minder wenselijke taken blijven uitbesteden aan armere landen voor een lagere financiële uitgaven.
De startups achter de technologie zullen de komende maanden en jaren meer onder de loep worden genomen, en daarom zouden ze er goed aan doen om hun praktijken zo snel mogelijk te herzien en te verbeteren.
Digital Trends heeft contact opgenomen met OpenAI voor commentaar op het rapport van Time en we zullen dit artikel bijwerken wanneer we iets horen.
Aanbevelingen van de redactie
- De beste AI-videobewerkingstools
- ChatGPT-maker OpenAI wordt geconfronteerd met FTC-onderzoek over wetten voor consumentenbescherming
- Het nieuwe AI-bedrijf van Elon Musk wil 'het universum begrijpen'
- Het verkeer op de ChatGPT-website is voor het eerst gedaald
- AI-doorbraken zouden via de hersenen van bijen kunnen komen, zeggen wetenschappers
Upgrade je levensstijlDigital Trends helpt lezers de snelle wereld van technologie in de gaten te houden met het laatste nieuws, leuke productrecensies, verhelderende hoofdartikelen en unieke sneak peeks.
