Alexa, Siri en andere AI Assistenten hebben een feministische reboot nodig

Toen mensen een paar jaar geleden ontdekten hoe ze de stemassistent van Apple konden laten vloeken, gaven verslaggevers al snel de technologie de schuld. “Siri heeft een slechte mond;” ze gaf een “schokkend ongepaste reactie'of een'wellustige robo-reactie' aan iedereen die om een ​​tweede definitie van 'moeder' vroeg. Wanneer de stemassistent brutaal antwoordt op een verzoek om nul door nul te delen, stellen wij dat vast ze is op hol geslagen en we zijn er nog maar één stap van verwijderd Terminator keer.

Het is gemakkelijk in te zien waarom we Siri en haar A.I. antropomorfiseren. broeders. Ze heeft een naam en blijkbaar een geslacht. Maar het bekritiseren van een apparaat – en niet van degenen die het programmeren – is een symptoom van een veel groter probleem, aldus dr. Yolande Strengers, een medewerker professor, afdeling Human Centered Computing aan de Monash University, en Dr. Jenny Kennedy, een postdoctoraal onderzoeker aan de RMIT University, Melbourne. Hun nieuwe boek,

Smart Wife: waarom Siri, Alexa en andere Smart Home-apparaten een feministische reboot nodig hebben, onderzoekt de schadelijke stereotypen die schuilgaan achter de vrolijke antwoorden van Alexa en de snode opmerkingen van Siri.

Ook al heb je maar af en toe interactie met deze digitale assistenten, ze vallen nog steeds onder de categorie slimme vrouw, vertelt Kennedy aan Digital Trends. “Het is elke vorm van technologie, apparaat of assistent die is ontworpen om elke vorm van vrouwenrol in huis te vervullen”, zei ze. Veel smarthome-apparaten zijn bedoeld om het traditionele werk van vrouwen te verminderen: Robotstofzuigers, slimme wasmachines, en allerlei keukenapparatuur. Siri, Alexa, En Google huis herinnert u er ook aan dat u uw stomerij moet ophalen, heeft geautomatiseerde instellingen voor wanneer u een feestje geeft en kan de kinderen een verhaaltje voor het slapengaan vertellen. “Ze versterken ook de manier waarop het werk thuis wordt verdeeld tussen verschillende actoren”, zei Kennedy over slimme vrouwen. “Momenteel valt een groot deel van het huishoudelijk werk, het dagelijkse werk en het emotionele werk nog steeds onder een gefeminiseerd cohort, of dat nu menselijk of iets anders is.”

“We hebben zoveel zeer vergelijkbare, zeer nostalgische en problematische stereotypen over de vrouw en gefeminiseerde arbeid worden ontworpen in deze technologieën die vervolgens naar de massamarkten over de hele wereld gaan”, zei hij Versterkers. 'Dus het is niet zozeer dat ze een vrouw is, dat is noodzakelijkerwijs het probleem. Het is het type vrouw dat ze is en het type vrouw dat ze wordt voorgesteld.’

Het oplossen van de problemen met slimme vrouwen vergt meer dan het veranderen van het standaardgeslacht van de stem van vrouwelijk naar mannelijk, zeggen Kennedy en Strengers. Ze hebben een volledige herstart nodig.

Rosiekleurige bril 

Als u uw Roomba een naam heeft gegeven, er is een goede kans jij noemt het daarna Rosie De Jetsons’ robotmeisje. “Wat slimme vrouwen betreft, heeft Rosie het allemaal”, schrijven Kennedy en Strengers. “Ze belichaamt de kernwaarden die gewoonlijk worden geassocieerd met de stereotiepe plichtsgetrouwe huisvrouw uit de jaren vijftig – met een paar extra bonussen.”

De reden dat uw robotstofzuiger doet denken aan de efficiënte cartoonmeid is geen vergissing. In het boek schetsen Strengers en Kennedy de geschiedenis van robots, virtuele assistenten en chatbots. Zelfs een vroeg computerprogramma voor natuurlijke taalverwerking, ELIZA, was gefeminiseerd, vernoemd naar Eliza Doolittle in George Bernard Shaw’s Pygmalion En Mijn schone dame. Een robotvrouw verscheen relatief vroeg op het scherm, in 1949 De perfecte vrouw. “Er is een heel duidelijk verband dat we in het boek hebben aangetoond tussen deze populaire cultuurversies van de slimme vrouw en hoe vrouwen op het scherm zijn geportretteerd in een kunstmatige vorm en hoe dat inspiratie en de basis creëert voor ontwerpen van echte slimme vrouwen die we nu in huis hebben”, aldus Versterkers.

“Technologie heeft bijna altijd te veel beloofd en te weinig opgeleverd, vooral als het om het huis gaat”, schrijven Strengers en Kennedy. Onze robotstofzuigers lijken in niets op Rosie. De Jetsons hoefden zich niet op te richten voordat Rosie zich omdraaide, uit angst dat er iets tussen haar wielen verstrikt zou raken of dat ze tegen een vast voorwerp zou botsen. Ze maakten zich nooit zorgen over wat er zou gebeuren als Rosie Astro zou tegenkomen hondenpoep.

Vanwege hun beperkingen kunnen smarthome-apparaten soms meer werk voor ons creëren. Het lijkt op het zogenaamde ‘juicerprobleem’. Ze zouden het maken van sap gemakkelijker moeten maken. Als je er ooit een hebt gehad, weet je dat het een nachtmerrie kan zijn om schoon te maken. Maar nu heb je dit dure apparaat en moet je waar voor je geld krijgen. Vóór de sapcentrifuge had je net een pakje sinaasappelsap gekocht en daarmee een einde gemaakt. Het is de reden waarom auteur Ruth Schwartz Cowan opmerkte dat technologie vaak ‘meer werk voor moeder' door apparaten aan te bieden die haar huishoudelijk werk eenvoudig en het huis onberispelijk moesten maken.

“Hoe meer apparaten er in huis komen, hoe meer werk er ontstaat”, zegt Kennedy, en ze voorspelt dat dit ook zo zal blijven met slimme apparaten. Door ze opnieuw aan het Wi-Fi-netwerk toe te voegen of fouten op te lossen, ontstaat wat onderzoekers ‘digitale huishouding’ noemen.

“Dit kost eigenlijk heel veel tijd en energie, en het wordt niet beschouwd als onderdeel van het totale huishoudelijk werk dat gedaan moet worden”, aldus Kennedy. Het is vaak de verantwoordelijkheid van mannen, die gadgets misschien als een van hun hobby's beschouwen, of het kan een onderdeel zijn van hun werk buitenshuis. Maar als de ene partner de robotstofzuiger aan het ontwarren is, zet hij ook niet het afval buiten en vouwt hij de was niet op, zodat het werk op de andere persoon kan vallen.

Het repareren van een smarthome-apparaat vergt misschien enige vaardigheid of technische kennis, maar Kennedy en Strengers schrijven in het boek dat de robots zelf worden vaak gezien als vervanging van ondergeschikt werk: “Ingebed in ons Rosie-idool zit de veronderstelling dat huishoudelijk werk iets is dat zou moeten worden uitgewist en uit ons leven verwijderd – dat het werk van vrouwen stil en efficiënt moet worden gedaan, en dat het eenvoudig genoeg is om aan een autonoom alternatief te worden toegewezen. Eén implicatie is dat het alledaags, gemakkelijk en waardeloos is.

Alexa, idioot

Als onze robots niet presteren zoals we verwachten, raken we gemakkelijk gefrustreerd. Als je tegen je stemassistent schreeuwt en vloekt, zal dat hem niet van streek maken, toch? Maar Kennedy en Strengers vinden het nog steeds een slecht idee. “Het gaat niet zozeer om het beschermen van robotgevoelens als wel om zorgen over de manier waarop enige vorm van misbruik van een robot kan gebeuren antropomorfe en vooral gefeminiseerde objecten kunnen helpen het misbruik van feminisering te normaliseren”, zegt hij Kennedy.

Mishandeling kan vooral verontrustend zijn voor seksbots, zeggen zij en Strengers, die soms ‘persoonlijkheden’ zoals ‘frigide’ hebben geprogrammeerd. Dit zou ingewikkelde vragen kunnen oproepen rond toestemming, zeggen sommige critici – niet met robots, maar met andere mensen.

“Ze zeggen niet noodzakelijkerwijs dat dit betekent dat ze dat met vrouwen zullen gaan doen”, zei Kennedy. “Maar toch voedt het alleen maar de cultuur, en dat is waar wij ons zorgen over maken.”

Dagelijkse robots hebben de neiging bepaalde eigenschappen te delen met seksbots. “We maken ons grote zorgen over deze trend om deze robots en apparaten sympathiek te maken”, zegt Strengers. Ze zijn vaak schattig, met grote ogen en rustgevende stemmen. “Het dient een doel, namelijk ervoor zorgen dat we deze apparaten in ons leven accepteren”, zei ze.

Maar nogmaals, zegt ze, versterkt dit de verwachtingen over hoe vrouwen eruit moeten zien en zich moeten gedragen. “Ze houden een bepaalde vorm van vrouwelijkheid in stand, die slechts één van de vele, vele vormen van vrouwelijkheid is. aantoonbaar behoorlijk achterhaald als het gaat om de manier waarop vrouwen zich in de 21e eeuw gedragen, vertegenwoordigen en leven”, zegt ze. gezegd.

In plaats daarvan moeten ontwerpers nieuwe manieren vinden om robots en andere apparaten te ontwerpen. “Er zijn andere manieren om sympathie te benaderen”, zegt Strengers. “Het is niet zo dat we Terminator-robots moeten ontwerpen die grof en afschuwelijk zullen zijn en ons, weet je, in onze slaap neerschieten.”

De toekomst (bot) is niet vrouwelijk 

Het eenvoudigweg veranderen van de stem en het fysieke ontwerp gaat niet ver genoeg, beweren ze. “Het gaat ook om de fundamentele persoonlijkheden die in deze apparaten worden ontworpen”, zegt Strengers. Zij en Kennedy bieden een manifest in negen stappen aan om deze slimme vrouwen opnieuw in te richten, zodat ze gendergelijkheid en diversiteit bevorderen.

“Een van de belangrijkste is wie mag coderen”, zei Kennedy. “Als er meer vrouwen in de sector vertegenwoordigd zijn, zullen de perspectieven die ter tafel worden gebracht, veranderen in die vroege ontwerpfasen en in de ingebeelde toekomstige gebruiker en het begrijpen van de diversiteit van potentiële gebruikers.”

Jacqueline Feldman ontworpen KAI, een chatbot, om een ​​botpersoonlijkheid te hebben. Het zorgt ervoor dat mensen geen vragen stellen over het geslacht of seksuele suggesties doen. Feldmans achtergrond ligt in schrijven en literatuur, en Strengers zou graag zien dat meer mensen uit disciplines als antropologie en sociologie worden betrokken bij het creëren van A.I. en bots, “zodat we niet alleen op de grenzen van de technologie die echt technische geesten hebben die deze maken dingen,” zei ze, “dat het wordt gezien als een gezamenlijke inspanning met andere disciplines en dat het net zo goed als een sociale kans wordt gezien als een technische.”

“Het is geen kant-en-klare, one-size-fits-all oplossing die we hier voorstellen”, voegde ze eraan toe. “Er zijn veel verschillende elementen die moeten veranderen om dit te veranderen.”

Aanbevelingen van de redactie

• De Amerikaanse regering gaat in 2024 een nieuw cyberbeveiligingsprogramma voor slimme apparaten voor thuisgebruik lanceren
• Ontsnap uit de sleur met deze handige zomergerichte smart home-routines
• 6 smarthome-apparaten waarmee u honderden euro’s per jaar kunt besparen
• De nieuwe updates van Vivint maken het smart home-systeem nog slimmer
• De nieuwe Hubspace-compatibele items van Home Depot bevatten een slimme stekker