A Badanie czasu ujawnił mroczniejszą stronę branży chatbotów AI, podkreślając, w jaki sposób co najmniej jeden startup stosuje wątpliwe praktyki w celu ulepszenia swojej technologii.
Opublikowany w środę raport Time koncentruje się na wspieranym przez Microsoft OpenAI i jego chatbot ChatGPT, technologia, która ostatnio zyskała duże zainteresowanie ze względu na niezwykłą zdolność do tworzenia wysoce naturalnego tekstu konwersacyjnego.
Polecane filmy
Sonda Time's odkryła, że aby wyszkolić technologię sztucznej inteligencji, OpenAI skorzystało z usług zespołu w Kenii, aby ślęczeć nad tekstem, który obejmowały niepokojące tematy, takie jak wykorzystywanie seksualne dzieci, bestialstwo, morderstwo, samobójstwo, tortury, samookaleczenia i kazirodztwo. A za ich wysiłki, by oznaczyć odrażające treści, wielu członków zespołu otrzymywało mniej niż 2 dolary za godzinę.
Powiązany
- Google Bard może teraz mówić, ale czy może zagłuszyć ChatGPT?
- ChatGPT: najnowsze wiadomości, kontrowersje i wskazówki, które musisz znać
- Rekordowy wzrost ChatGPT został właśnie zdetronizowany przez nową wirusową aplikację
Prace, które rozpoczęły się w listopadzie 2021 r., były konieczne, ponieważ poprzednik ChatGPT, GPT-3, choć imponujący, miał tendencję do wypluwania obraźliwe treści, ponieważ jego zestaw danych szkoleniowych został skompilowany przez zeskrobanie setek miliardów słów ze wszystkich zakątków sieć.
Zespół z Kenii, obsługiwany przez firmę Sama z San Francisco, oznaczył obraźliwe treści, aby pomóc trenuj chatbota OpenAI, poprawiając w ten sposób jego zbiór danych i zmniejszając szanse na jakiekolwiek zastrzeżenia wyjście.
Czas powiedział, że wszyscy czterej pracownicy Sama, z którymi przeprowadzono wywiady, opisali, że są psychicznie przerażeni swoją pracą. Sama oferowała sesje doradcze, ale pracownicy twierdzili, że były one nieskuteczne i rzadko się odbywały ze względu na wymagania pracy, chociaż rzecznik Sama powiedział Time, że terapeuci byli dostępni w każdej chwili czas.
Jeden z pracowników powiedział Time'owi, że czytanie szokującego materiału czasami przypominało „torturę”, dodając, że pod koniec tygodnia czuli się „zaniepokojeni”.
W lutym 2022 roku sytuacja Sama przybrała jeszcze gorszy obrót, kiedy OpenAI uruchomiło osobny projekt niezwiązany z ChatGPT, który wymagał od zespołu z Kenii zbierania obrazów o charakterze seksualnym i brutalnym. OpenAI powiedział Time, że praca była konieczna, aby narzędzia AI były bezpieczniejsze.
W ciągu kilku tygodni od rozpoczęcia tego projektu opartego na obrazach alarmujący charakter zadań skłonił Sama do anulowania wszystkich umów OpenAI, chociaż Time sugeruje, że mogło to być również spowodowane opadem PR z raportu na podobny temat, który opublikował o Facebook mniej więcej w tym samym czasie.
Open AI powiedział Time, że doszło do „nieporozumienia” co do natury obrazów, o które poprosił Sama zebrać, twierdząc, że nie prosił o najbardziej ekstremalne obrazy i nie oglądał żadnych, którymi był wysłano.
Jednak zakończenie kontraktów wpłynęło na źródła utrzymania pracowników, ponieważ część zespołu w Kenii straciła pracę, podczas gdy inni zostali przeniesieni do mniej płatnych projektów.
Śledztwo czasu oferuje niewygodne, ale ważne spojrzenie na rodzaj pracy wykonywanej przez chatboty napędzane sztuczną inteligencją, które ostatnio tak ekscytują branżę technologiczną.
Technologia ta, choć transformacyjna i potencjalnie korzystna, wyraźnie wiąże się z kosztami ludzkimi i rodzi mnóstwo pytań etycznych dotyczących tego, jak firmy radzą sobie rozwijających swoje nowe technologie, a szerzej o tym, jak bogatsze kraje nadal zlecają mniej pożądane zadania biedniejszym narodom za mniejsze pieniądze wydatki.
Startupy stojące za technologią zostaną poddane bardziej szczegółowej analizie w nadchodzących miesiącach i latach, dlatego dobrze by było, gdyby przy najbliższej okazji dokonały przeglądu i ulepszenia swoich praktyk.
Firma Digital Trends skontaktowała się z firmą OpenAI w celu uzyskania komentarza na temat raportu Time. Zaktualizujemy ten artykuł, gdy otrzymamy odpowiedź.
Zalecenia redaktorów
- Najlepsze narzędzia do edycji wideo AI
- Twórca ChatGPT OpenAI mierzy się z sondą FTC w sprawie przepisów dotyczących ochrony konsumentów
- Nowa firma AI Elona Muska ma na celu „zrozumienie wszechświata”
- Ruch na stronie ChatGPT spadł po raz pierwszy
- Naukowcy twierdzą, że przełom w sztucznej inteligencji może nastąpić za pośrednictwem mózgów pszczół
Ulepsz swój styl życiaTrendy cyfrowe pomagają czytelnikom śledzić szybko zmieniający się świat technologii dzięki najnowszym wiadomościom, zabawnym recenzjom produktów, wnikliwym artykułom redakcyjnym i jedynym w swoim rodzaju zapowiedziom.
