UN Enquête de temps a exposé le côté le plus sombre de l'industrie des chatbots IA, soulignant comment au moins une startup a utilisé des pratiques douteuses pour améliorer sa technologie.
Publié mercredi, le rapport de Time se concentre sur OpenAI soutenu par Microsoft et son chatbot ChatGPT, une technologie qui a attiré beaucoup d'attention récemment pour sa remarquable capacité à produire un texte conversationnel très naturel.
Vidéos recommandées
L'enquête de Time a révélé que pour former la technologie de l'IA, OpenAI a utilisé les services d'une équipe au Kenya pour se pencher sur le texte qui inclus des sujets dérangeants tels que l'abus sexuel d'enfants, la bestialité, le meurtre, le suicide, la torture, l'automutilation et inceste. Et pour leurs efforts pour étiqueter le contenu odieux, de nombreux membres de l'équipe ont reçu moins de 2 $ de l'heure.
En rapport
- Google Bard peut désormais parler, mais peut-il noyer ChatGPT?
- ChatGPT: les dernières actualités, controverses et astuces à connaître
- La croissance record de ChatGPT vient d'être détrônée par une nouvelle application virale
Le travail, qui a commencé en novembre 2021, était nécessaire car le prédécesseur de ChatGPT, GPT-3, bien qu'impressionnant, avait tendance à vomir contenu offensant car son ensemble de données de formation avait été compilé en grattant des centaines de milliards de mots de tous les coins du la toile.
L'équipe basée au Kenya, dirigée par la société de San Francisco Sama, étiqueterait le contenu offensant pour aider former le chatbot d'OpenAI, améliorant ainsi son ensemble de données et réduisant les risques de toute répréhensible sortir.
Time a déclaré que les quatre employés de Sama interrogés ont décrit avoir été mentalement marqués par leur travail. Sama a proposé des séances de conseil, mais les employés ont déclaré qu'elles étaient inefficaces et avaient rarement lieu en raison de les exigences du travail, bien qu'un porte-parole de Sama ait déclaré à Time que les thérapeutes étaient accessibles à tout moment. temps.
Un travailleur a déclaré à Time que lire le matériel choquant ressemblait parfois à de la « torture », ajoutant qu'il se sentait « dérangé » à la fin de la semaine.
En février 2022, les choses ont pris une tournure encore plus sombre pour Sama lorsque OpenAI a lancé un projet distinct sans rapport avec ChatGPT qui obligeait son équipe kenyane à collecter des images à caractère sexuel et violent. OpenAI a déclaré à Time que le travail était nécessaire pour rendre ses outils d'IA plus sûrs.
Quelques semaines après le démarrage de ce projet basé sur l'image, la nature alarmante des tâches a incité Sama à annuler tous ses contrats avec OpenAI, bien que Time suggère qu'il pourrait également avoir été provoqué par les retombées de relations publiques d'un rapport sur un sujet similaire qu'il a publié à propos Facebook à peu près au même moment.
Open AI a déclaré à Time qu'il y avait eu "une mauvaise communication" sur la nature des images qu'il avait demandé à Sama de recueillir, insistant sur le fait qu'il n'avait pas demandé les images les plus extrêmes et n'en avait vu aucune qu'il avait été envoyé.
Mais la fin des contrats a eu un impact sur les moyens de subsistance des travailleurs, certains membres de l'équipe au Kenya ayant perdu leur emploi, tandis que d'autres ont été déplacés vers des projets moins bien rémunérés.
L'enquête du temps offre un regard inconfortable mais important sur le type de travail qui se fait dans les chatbots alimentés par l'IA qui ont récemment suscité l'enthousiasme de l'industrie technologique.
Bien que transformatrice et potentiellement bénéfique, la technologie a clairement un coût humain et soulève une multitude de questions éthiques sur la façon dont les entreprises fonctionnent. développement de leurs nouvelles technologies, et plus largement sur la manière dont les pays riches continuent de sous-traiter des tâches moins souhaitables à des pays plus pauvres pour une économie financière moindre. dépenses.
Les startups à l'origine de la technologie feront l'objet d'un examen plus approfondi dans les mois et les années à venir, et elles feraient donc bien de revoir et d'améliorer leurs pratiques dès que possible.
Digital Trends a contacté OpenAI pour commenter le rapport de Time et nous mettrons à jour cet article lorsque nous vous répondrons.
Recommandations des éditeurs
- Les meilleurs outils de montage vidéo IA
- Le fabricant de ChatGPT OpenAI fait face à une enquête de la FTC sur les lois de protection des consommateurs
- La nouvelle société d'intelligence artificielle d'Elon Musk vise à "comprendre l'univers"
- Le trafic du site ChatGPT a chuté pour la première fois
- Les percées de l'IA pourraient provenir du cerveau des abeilles, selon les scientifiques
Améliorez votre style de vieDigital Trends aide les lecteurs à garder un œil sur le monde trépidant de la technologie avec toutes les dernières nouvelles, des critiques de produits amusantes, des éditoriaux perspicaces et des aperçus uniques.
