L’assistant vocal de votre choix a probablement une voix féminine. Même si vous n'y pensez pas grand-chose, l'Organisation des Nations Unies pour l'éducation, la science et la culture (UNESCO) estime que les assistants alimentés par l'IA pourraient renforcer les stéréotypes de genre négatifs tout en ne parvenant pas à repousser correctement les propos violents et abusifs, ce qui entraîne des conséquences potentiellement néfastes.
Dans un article intitulé «Je rougirais si je pouvais", des chercheurs de l'UNESCO ont exploré certains des préjugés implicites qui ont lieu dans la recherche sur l'intelligence artificielle. Les auteurs de l’article suggèrent qu’en donnant aux assistants vocaux des noms traditionnellement féminins et en leur attribuant par défaut des voix à consonance féminine, les entreprises ont involontairement renforcé les idées négatives et régressives sur femmes. Cela les positionne comme des serviteurs et dans un rôle où on attend d'eux qu'ils fassent ce qu'on leur demande.
Vidéos recommandées
De plus, l'article a examiné la façon dont les assistants vocaux réagissent lorsqu'ils sont confrontés à un langage abusif. Ce qu'ils ont trouvé, c'est l'IA. détourne ces commentaires plutôt que de prendre des mesures pour les décourager. Si un utilisateur menace un assistant vocal, cela produit souvent une blague idiote ou un message dédaigneux. Les chercheurs de l'UNESCO estiment que les entreprises technologiques devraient intégrer des garanties dans ces systèmes qui contribueraient à réduire les propos abusifs dirigés contre les voix à consonance féminine. Les chercheurs estiment qu’en ne le faisant pas, les entreprises courent le risque de normaliser des comportements tels que des menaces violentes contre les femmes.
En rapport
- Comment vendre à vos parents un assistant intelligent
- Votre maison intelligente peut-elle vous faire économiser de l’argent sur l’assurance habitation?
- L’application rend Breville Joule Oven Air Fryer Pro vraiment intelligente
Une partie de ce problème, selon l’UNESCO, réside dans le fait que la plupart des entreprises technologiques disposent d’équipes d’ingénierie composées en grande partie et majoritairement d’hommes. Parce qu'ils n'ont probablement pas d'expérience directe avec ce type de langage qui leur est destiné et qu'ils n'ont pas non plus été victimes de ce type de aux stéréotypes négatifs et aux rôles de genre désuets auxquels les femmes sont confrontées, elles ne pensent pas nécessairement à ces choses lorsqu'elles conçoivent l'IA. systèmes.
« Des entreprises comme Apple et Amazon, composées d’équipes d’ingénieurs majoritairement masculines, ont développé l’IA. systèmes qui provoquent leur des assistants numériques féminisés pour répondre aux violences verbales avec un flirt attrape-moi si tu peux », écrivent les chercheurs dans leur rapport. « Parce que le discours de la plupart des assistants vocaux est féminin, cela envoie le signal que les femmes sont… dociles et des aides désireuses de plaire, disponibles sur simple pression d'un bouton ou avec une commande vocale brutale comme « hé » ou 'D'ACCORD'. L'assistant ne détient aucun pouvoir d'action au-delà de ce que le commandant lui demande. Il honore les commandes et répond aux requêtes quel que soit leur ton ou leur hostilité.
L'UNESCO estime que la meilleure solution au problème est de créer un voix non sexiste que l'A.I. les assistants peuvent utiliser. L’organisation suggère également de mettre en place des réponses et des systèmes qui feraient taire et décourageraient les propos et insultes agressifs et violents. Les chercheurs estiment que les entreprises technologiques devraient également cesser de positionner les assistants vocaux comme des êtres humains soumis, afin d’éviter de propager des stéréotypes nuisibles.
Recommandations des rédacteurs
- Les experts préviennent que les assistants IA nuisent au développement social des enfants
- Rassemblement d'animaux de compagnie qui jouent avec Google et Alexa
- Les nouveaux articles compatibles Hubspace de Home Depot incluent une prise intelligente
- Est-il possible de se lancer dans un seul écosystème de maison intelligente?
- Google Home (Nest Audio) contre. Amazon Écho
Améliorez votre style de vieDigital Trends aide les lecteurs à garder un œil sur le monde en évolution rapide de la technologie avec toutes les dernières nouvelles, des critiques de produits amusantes, des éditoriaux perspicaces et des aperçus uniques.
