Alexa, Siri och andra A.I. Assistenter behöver en feministisk omstart

För några år sedan, när folk kom på hur man skulle få Apples röstassistent att svära, var reportrar snabba med att skylla på tekniken. “Siri har en dålig mun;” hon gav ett "chockerande olämpligt svar" eller en "randy robo svar” till alla som bad om en andra definition av ”mamma”. När röstassistenten svarar argt på en begäran att dela noll med noll, bestämmer vi det hon har blivit amok och vi är ett steg ifrån Terminator gånger.

Det är lätt att se varför vi antropomorfierar Siri och hennes A.I. bröder. Hon har ett namn och tydligen ett kön. Men att göra fel på en enhet – inte de som programmerar den – är ett symptom på ett mycket större problem, enligt Dr. Yolande Strengers, en medarbetare professor, Department of Human Centered Computing vid Monash University, och Dr Jenny Kennedy, en postdoktor vid RMIT University, Melbourne. Deras nya bok, Smart Wife: Varför Siri, Alexa och andra smarta hemenheter behöver en feministisk omstart

, utforskar de skadliga stereotyperna som ligger bakom Alexas positiva svar och Siris snark.

Även om du bara ibland interagerar med dessa digitala assistenter, faller de fortfarande under kategorin smart fru, säger Kennedy till Digital Trends. "Det är vilken typ av teknik, enhet, assistent som helst som är designad för att utföra någon form av hustruroll i hemmet," sa hon. Många smarta hemenheter är avsedda att minska vad som traditionellt anses vara kvinnors arbete: Robotdammsugare, smarta tvättmaskiner, och alla möjliga köksutrustning. Siri, Alexa, och Google Home också påminna dig om att hämta din kemtvätt, ha automatiserade inställningar för när du är värd för en fest och kan berätta för barnen en godnattsaga. "De förstärker också hur arbetet i hemmet delas upp mellan olika aktörer", sa Kennedy om smarta fruar. "För närvarande faller mycket av hushållsarbetet, det dagliga arbetet, det känslomässiga arbetet fortfarande till en feminiserad kohort, oavsett om det är mänskligt eller annat."

"Vi har så många väldigt lika, väldigt nostalgiska och problematiska stereotyper av frun och feminiserat arbete designas i dessa teknologier som sedan kommer ut på massmarknader runt om i världen, säger han Strengers. "Så, det är inte så mycket att hon är en fru, det är nödvändigtvis det som är problemet. Det är den typen av hustru hon är och den typ av kvinna hon har framställts som."

Att åtgärda problemen med smarta fruar kräver mer än att byta standardkön på rösten från kvinnlig till manlig, säger Kennedy och Strengers. De behöver en fullständig omstart.

Rosiefärgade glasögon 

Om du har gett din Roomba ett namn, det finns en god chans du kallar det Rosie efteråt Jetsons’ robotpiga. "När det gäller smarta fruar har Rosie allt", skriver Kennedy och Strengers. "Hon förkroppsligar de kärnvärden som vanligtvis förknippas med den stereotypa plikttrogna 1950-talets hemmafru - med några extra bonusar."

Anledningen till att din robotdammsugare framkallar den effektiva tecknade hemtjänsten är inga misstag. I boken spår Strengers och Kennedy historien om robotar, virtuella assistenter och chatbots. Även ett tidigt datorprogram för behandling av naturligt språk, ELIZA, feminiserades, uppkallat efter Eliza Doolittle i George Bernard Shaws Pygmalion och My Fair Lady. En robotkvinna dök upp på skärmen relativt tidigt, på 1949-talet Den perfekta kvinnan. "Det finns en riktigt tydlig koppling som vi visade i boken mellan dessa populärkulturversioner av den smarta frun och hur kvinnor på skärmen är porträtteras i en konstgjord form och hur det skapar inspiration och grunden för design av riktiga smarta fruar som vi nu har i våra hem", sa Strengers.

"Teknik har nästan alltid utlovat och underlevererat, särskilt när det kommer till hemmet", skriver Strengers och Kennedy. Våra robotdammsugare är inget som Rosie. Jetsons behövde inte räta upp sig innan Rosie rullade runt, av rädsla för att något trasslade in sig i hennes hjul eller att hon skulle stöta in i ett orörligt föremål. De oroade sig aldrig för vad som skulle hända om Rosie stötte på Astro hundens bajs.

På grund av sina begränsningar kan smarta hemenheter ibland skapa mer arbete för oss. Det är som det så kallade "juicerproblemet". De ska göra juicing lättare. Men om du någonsin har ägt en så vet du att de kan vara en mardröm att städa. Men nu har du den här dyra enheten och behöver få för pengarna. Innan juicepressen skulle du bara ha köpt en kartong med apelsinjuice och kallat det en dag. Det är därför författaren Ruth Schwartz Cowan noterade att teknik ofta skapar "mer jobb för mamma” genom att tillhandahålla enheter som var tänkta att göra hennes hushållsarbete enkelt och hemmet orörda.

"Ofta ju fler enheter som kommer in i hemmet, desto mer arbete skapas", sa Kennedy och hon förutspår att det kommer att fortsätta med smarta enheter. Att lägga till dem på nytt i Wi-Fi-nätverket eller felsöka fel skapar vad forskare kallar "digital hushållning".

“Det här tar faktiskt upp ganska mycket tid och energi, och det anses inte vara en del av det totala hushållsarbetet som behöver göras, säger Kennedy. Det faller ofta på män, som kanske anser att prylar är en av deras hobbyer, eller det kan vara en del av deras arbete utanför hemmet. Men om en partner trasslar ur robotdammsugaren, tar de inte heller ut skräpet eller viker tvätten, så att arbetet kan falla på den andra personen.

Att fixa en smart hemenhet kan kräva viss skicklighet eller tekniskt kunnande, men Kennedy och Strengers skriver i boken att robotarna själva ses ofta som att ersätta snålt arbete: "Inbäddat i vår Rosie-idol är ett antagande om att hushållsarbete är något som skall raderas och tas bort från våra liv — att kvinnors arbete ska utföras tyst och effektivt, och det är enkelt nog att tilldelas ett självständigt alternativ. En implikation är att det är vardagligt, enkelt och värdelöst.”

Alexa, din idiot

När våra robotar inte presterar som vi förväntar oss, är det lätt att bli frustrerad. Om du skriker och svär åt din röstassistent kommer det inte att göra dem upprörda, eller hur? Men Kennedy och Strengers tycker fortfarande att det är en dålig idé. "Det handlar inte om att skydda robotkänslor lika mycket som att vara orolig över hur någon form av missbruk av en antropomorfiserade och i synnerhet feminiserade föremål kan hjälpa till att normalisera missbruk av feminisering”, sa Kennedy.

Misshandel kan vara särskilt bekymmersamt för sexbotar, säger hon och Strengers, som ibland har programmerade "personligheter" som "frigid". Detta kan väcka komplicerade frågor kring samtycke, säger vissa kritiker — inte med robotar, utan med andra människor.

"De säger inte nödvändigtvis att det betyder att de kommer att gå ut och göra det mot kvinnor," sa Kennedy. "Men ändå, det matar bara kulturen, och det är det vi är oroliga för."

Vardagsrobotar tenderar att dela vissa egenskaper med sexbots. "Vi är verkligen oroade över denna trend att göra dessa robotar och enheter sympatiska," sa Strengers. De är ofta söta, med stora ögon och lugnande röster. "Det tjänar ett syfte, vilket är att få oss att acceptera dessa enheter i våra liv," sa hon.

Men återigen, säger hon, det stärker förväntningarna på hur kvinnor ska se ut och bete sig. "De vidmakthåller en viss form av kvinnlighet, som bara är en av många, många former av kvinnlighet och är utan tvekan ganska föråldrad när det gäller hur kvinnor agerar och representeras och lever nu på 2000-talet, säger hon. sa.

Istället borde designers hitta nya sätt att designa robotar och andra enheter. "Det finns andra sätt att närma sig likability," sa Strengers. "Det är inte så att vi måste designa Terminator-robotar som kommer att vara oförskämda och hemska och, du vet, skjuta oss i sömnen."

Framtiden (bot) är inte kvinnlig 

Att bara ändra rösten och den fysiska designen räcker inte långt, hävdar de. "Det handlar om de grundläggande personligheter som designas i dessa enheter också," sa Strengers. Hon och Kennedy erbjuder ett manifest i nio steg för att ombygga dessa smarta fruar så att de främjar jämställdhet och mångfald.

"En av de viktigaste är vem som får koda," sa Kennedy. – Att ha fler kvinnor representerade i branschen kommer att förändra perspektiven som tas upp på bordet i dessa tidiga designfaser och i den tänkta framtida användaren och förstå mångfalden hos potentiella användare.”

Jacqueline Feldman designade KAI, en chatbot, för att ha en botpersonlighet. Det styr människor bort från att ställa frågor om dess kön eller komma med sexuella förslag. Feldmans bakgrund är inom skrivande och litteratur, och Strengers skulle vilja se fler människor från discipliner som antropologi och sociologi ingå i att skapa A.I. och bots, "så att vi inte bara har de verkligt tekniska hjärnorna på teknikens gränser som gör dessa saker", sa hon, "att det ses som ett samarbete med andra discipliner och det ses som en social möjlighet lika mycket som det är en teknisk."

“Det är inte en enkel lösning, en lösning som passar alla som vi föreslår här, tillade hon. "Det finns många olika element som måste förändras för att detta ska vända."

Redaktörens rekommendationer

• USA: s regering kommer att lansera ett nytt cybersäkerhetsprogram för smarta hemenheter 2024
• Bryt dig ur hjulspåret med dessa användbara sommarfokuserade smarta hemrutiner
• 6 smarta hemenheter som kan spara hundratals per år
• Vivints nya uppdateringar gör dess smarta hemsystem ännu smartare
• Home Depots nya Hubspace-kompatibla föremål inkluderar smart kontakt