Uw stemassistent naar keuze heeft waarschijnlijk een vrouwenklinkende stem. Hoewel je er misschien niet veel over nadenkt, gelooft de Organisatie van de Verenigde Naties voor Onderwijs, Wetenschap en Cultuur (UNESCO) dat de door AI aangedreven assistenten mogelijk negatieve genderstereotypen versterken, terwijl ze er ook niet in slagen gewelddadig en beledigend taalgebruik op de juiste manier af te wijzen, wat tot potentieel schadelijke gevolgen kan leiden.
In een artikel met de titel “Ik zou blozen als ik kon”, onderzochten onderzoekers van UNESCO enkele van de impliciete vooroordelen die plaatsvinden in onderzoek naar kunstmatige intelligentie. De auteurs van het artikel suggereren dat door stemassistenten traditioneel vrouwelijke namen te geven en deze toe te wijzen standaard vrouwenklinkende stemmen, hebben bedrijven onbedoeld negatieve en regressieve ideeën versterkt vrouwen. Het positioneert hen als onderdanig en in een rol waarin van hen wordt verwacht dat zij doen wat van hen wordt gevraagd.
Aanbevolen video's
Daarnaast heeft de krant gekeken naar hoe stemassistenten reageren wanneer ze grof taalgebruik krijgen. Wat ze hebben gevonden is de A.I. dergelijke opmerkingen afwijst in plaats van actie te ondernemen om ze te ontmoedigen. Als een gebruiker een stemassistent bedreigt, ontstaat er vaak een flauw grapje of een afwijzend bericht. Onderzoekers van UNESCO zijn van mening dat technologiebedrijven beveiligingen in deze systemen moeten inbouwen die zouden helpen het beledigende taalgebruik tegen vrouwenklinkende stemmen te verminderen. De onderzoekers zijn van mening dat bedrijven, als ze dit niet doen, het risico lopen gedrag te normaliseren, zoals het uiten van gewelddadige bedreigingen tegen vrouwen.
Verwant
- Hoe je je ouders een slimme assistent kunt verkopen
- Kan uw slimme huis u geld besparen op de verzekering van huiseigenaren?
- App maakt Breville Joule Oven Air Fryer Pro echt slim
Een deel van dit probleem is volgens UNESCO dat de meeste technologiebedrijven technische teams hebben die grotendeels en voor het overgrote deel uit mannen bestaan. Omdat ze waarschijnlijk geen directe ervaring hebben met het omgaan met dit soort taalgebruik dat op hen gericht is, noch zijn ze het slachtoffer geweest van dit soort taalgebruik negatieve stereotypering en verouderde genderrollen waar vrouwen mee te maken hebben, ze denken niet noodzakelijkerwijs aan deze dingen bij het ontwerpen van A.I. systemen.
“Bedrijven als Apple en Amazon, bemand door overwegend mannelijke technische teams, hebben A.I. systemen die hun veroorzaken gefeminiseerde digitale assistenten om verbaal geweld te begroeten met catch-me-if-you-can-flirt”, schrijven de onderzoekers in hun rapport. “Omdat de spraak van de meeste stemassistenten vrouwelijk is, geeft het een signaal af dat vrouwen … volgzaam en enthousiaste helpers, beschikbaar met één druk op de knop of met een bot stemcommando zoals ‘hey’ of 'OK'. De assistent heeft geen andere macht dan wat de commandant van hem vraagt. Het respecteert bevelen en reageert op vragen, ongeacht hun toon of vijandigheid.”
UNESCO gelooft dat de beste oplossing voor het probleem het creëren van een netwerk is genderneutrale stem dat A.I. assistenten kunnen gebruiken. De organisatie stelt ook voor om reacties en systemen in te bouwen die agressieve en gewelddadige taal en beledigingen zouden uitschakelen en ontmoedigen. Onderzoekers zijn van mening dat technologiebedrijven ook moeten stoppen met het positioneren van stemassistenten als onderdanige mensen, in een poging om de uitbreiding van schadelijke stereotypen te voorkomen.
Aanbevelingen van de redactie
- Experts waarschuwen dat AI-assistenten de sociale ontwikkeling van kinderen schaden
- Verzameling van huisdieren die met Google en Alexa knoeien
- De nieuwe Hubspace-compatibele items van Home Depot bevatten een slimme stekker
- Is het haalbaar om all-in te gaan met één smart home-ecosysteem?
- Google Home (Nest Audio) versus Google Home Amazone-echo
Upgrade uw levensstijlMet Digital Trends kunnen lezers de snelle technische wereld in de gaten houden met het laatste nieuws, leuke productrecensies, inzichtelijke redactionele artikelen en unieke sneak peeks.
