Alexa, Siri og andre A.I. Assistenter trenger en feministisk omstart

For noen år siden, da folk fant ut hvordan de skulle få Apples stemmeassistent til å banne, var journalister raske til å skylde på teknologien. “Siri har en dårlig munn;” hun ga en "sjokkerende upassende respons" eller en "randy robo-svar" til alle som ba om en ny definisjon av "mor." Når stemmeassistenten svarer frekt på en forespørsel om å dele null på null, bestemmer vi det hun har løpt amok og vi er ett skritt unna Terminator ganger.

Det er lett å se hvorfor vi antropomorfiserer Siri og hennes A.I. brødre. Hun har et navn og tilsynelatende et kjønn. Men å feile på en enhet – ikke de som programmerer den – er et symptom på et mye større problem, ifølge Dr. Yolande Strengers, en medarbeider professor, Institutt for menneskelig sentrert databehandling ved Monash University, og Dr. Jenny Kennedy, en postdoktor ved RMIT University, Melbourne. Deres nye bok, Smart Wife: Hvorfor Siri, Alexa og andre smarte hjemmeenheter trenger en feministisk omstart

, utforsker de skadelige stereotypiene som ligger bak Alexas positive svar og Siris snark.

Selv om du bare av og til samhandler med disse digitale assistentene, faller de fortsatt inn under kategorien smart kone, sier Kennedy til Digital Trends. "Det er enhver form for teknologi, enhet, assistent som er designet for å utføre enhver form for hustrurolle i hjemmet," sa hun. Mange smarthusenheter er ment å redusere det som tradisjonelt anses som kvinners arbeid: Robotstøvsuger, smarte vaskemaskiner, og alle slags kjøkkenmaskiner. Siri, Alexa, og Google Home minner deg også på å hente renseriet, ha automatiserte innstillinger for når du er vertskap for en fest, og kan fortelle barna en godnatthistorie. "De forsterker også hvordan arbeidet i hjemmet blir delt opp mellom forskjellige aktører," sa Kennedy om smarte koner. "For tiden faller mye av husarbeidet, det daglige arbeidet, det emosjonelle arbeidet fortsatt til en feminisert kohort, enten det er menneskelig eller annet."

"Vi har så mange veldig like, veldig nostalgiske og problematiske stereotyper av kona og feminisert arbeidskraft blir designet inn i disse teknologiene som deretter går inn i massemarkeder rundt om i verden,» sa Strengers. "Så, det er ikke så mye at hun er en kone, det er nødvendigvis problemet. Det er den typen kone hun er og den typen kvinne hun er fremstilt for å være.»

Å fikse problemene med smarte koner krever mer enn å bytte standard kjønn på stemmen fra kvinne til mann, sier Kennedy og Strengers. De trenger en fullstendig omstart.

Rosiefargede briller 

Hvis du har gitt din Roomba et navn, det er en god sjanse du kaller det Rosie etterpå Jetsons' robotpike. "Når det gjelder smarte koner, har Rosie alt," skriver Kennedy og Strengers. "Hun legemliggjør kjerneverdiene som vanligvis forbindes med den stereotype pliktoppfyllende 1950-tallets husmor - med noen ekstra bonuser."

Grunnen til at robotstøvsugeren fremkaller den effektive tegneseriepiken er ingen feil. I boken sporer Strengers og Kennedy historien til roboter, virtuelle assistenter og chatboter. Selv et tidlig dataprogram for behandling av naturlig språk, ELIZA, ble feminisert, oppkalt etter Eliza Doolittle i George Bernard Shaws Pygmalion og My Fair Lady. En robotkvinne dukket opp på skjermen relativt tidlig, på 1949-tallet Den perfekte kvinnen. "Det er den virkelig klare koblingen som vi demonstrerte i boken mellom disse populærkulturversjonene av den smarte kona og hvordan kvinner på skjermen er portrettert i en kunstig form og hvordan det skaper inspirasjon og grunnlaget for design av ekte smarte koner som vi nå har i våre hjem," sa Strengers.

"Teknologi har nesten alltid overlovet og underlevert, spesielt når det kommer til hjemmet," skriver Strengers og Kennedy. Våre robotstøvsugere er ingenting som Rosie. Jetson-familien trengte ikke å rette seg opp før Rosie rullet rundt, av frykt for at noe skulle floke seg inn i hjulene hennes eller at hun skulle støte på en ubevegelig gjenstand. De bekymret seg aldri for hva som ville skje hvis Rosie møtte Astro hundens bæsj.

På grunn av deres begrensninger kan smarthjemenheter noen ganger skape mer arbeid for oss. Det er som det såkalte "juicer-problemet." De skal gjøre juice lettere. Hvis du noen gang har eid en, vet du at de kan være et mareritt å rengjøre. Men nå har du denne dyre enheten og trenger å få pengene dine verdt. Før juiceren hadde du nettopp kjøpt en kartong appelsinjuice og kalt det en dag. Det er derfor forfatter Ruth Schwartz Cowan bemerket at teknologi ofte skaper "mer arbeid for mor” ved å tilby enheter som skulle gjøre husarbeidet hennes enkelt og hjemmet uberørt.

"Ofte jo flere enheter som kommer inn i hjemmet, jo mer arbeid skapes det," sa Kennedy, og hun spår at det vil fortsette med smarte enheter. Å legge dem til på nytt i Wi-Fi-nettverket eller feilsøke feil skaper det forskerne kaller «digital housekeeping».

“Dette tar faktisk opp ganske mye tid og energi, og det blir ikke ansett som en del av den totale bøtta med husarbeid som må gjøres, sa Kennedy. Det faller ofte på menn, som kanskje anser gadgets som en av hobbyene deres, eller det kan være en del av arbeidet deres utenfor hjemmet. Men hvis en partner løser ut støvsugeren, tar de heller ikke ut søppelet eller bretter sammen klesvasken, slik at arbeidet kan falle på den andre personen.

Å fikse en smarthjemenhet kan kreve litt ferdigheter eller teknisk kunnskap, men Kennedy og Strengers skriver i boken at robotene selv blir ofte sett på som å erstatte dårlig arbeid: «Innebygd i vårt Rosie-idol er en antagelse om at husarbeid er noe som bør bli slettet og fjernet fra våre liv - at kvinners arbeid skal gjøres stille og effektivt, og det er enkelt nok til å bli tildelt et autonomt alternativ. En implikasjon er at det er verdslig, enkelt og verdiløst.»

Alexa, din idiot

Når robotene våre ikke presterer slik vi forventer at de skal, er det lett å bli frustrert. Hvis du roper og banner til stemmeassistenten din, kommer det ikke til å forstyrre dem, ikke sant? Men Kennedy og Strengers synes fortsatt det er en dårlig idé. "Det handler ikke om å beskytte robotfølelser like mye som å være bekymret for hvordan enhver form for misbruk av en antropomorfiserte og spesielt feminiserte objekter kan bidra til å normalisere misbruk av feminisering," sa Kennedy.

Mishandling kan være spesielt plagsomt for sexboter, sier hun og Strengers, som noen ganger har programmerte «personligheter» som «frigid». Dette kan reise kompliserte spørsmål rundt samtykke, sier noen kritikere — ikke med roboter, men med andre mennesker.

"De sier ikke nødvendigvis at det betyr at de vil gå ut og gjøre det mot kvinner," sa Kennedy. "Men likevel, det mater bare kulturen, og det er det vi er bekymret for."

Hverdagsroboter har en tendens til å dele visse egenskaper med sexboter. "Vi er virkelig bekymret for denne trenden for å gjøre disse robotene og enhetene sympatiske," sa Strengers. De er ofte søte, med store øyne og beroligende stemmer. "Det tjener et formål, som er å få oss til å akseptere disse enhetene i livene våre," sa hun.

Men igjen, sier hun, forsterker det forventningene til hvordan kvinner skal se ut og oppføre seg. "De opprettholder en spesiell form for femininitet, som bare er en av mange, mange former for femininitet og er uten tvil ganske utdatert når det gjelder måten kvinner opptrer og er representert og lever på nå i det 21. århundre,» sa.

I stedet bør designere finne nye måter å designe roboter og andre enheter på. "Det finnes andre måter å nærme seg likeability," sa Strengers. "Det er ikke det at vi må designe Terminator-roboter som kommer til å være frekke og grusomme og, du vet, skyte oss i søvne."

Fremtiden (boten) er ikke kvinnelig 

Bare å endre stemmen og fysisk design går ikke langt nok, hevder de. "Det handler om de grunnleggende personlighetene som blir designet i disse enhetene også," sa Strengers. Hun og Kennedy tilbyr et ni-trinns manifest for å gjenskape disse smarte konene slik at de fremmer likestilling og mangfold.

"En av de viktigste er hvem som får kode," sa Kennedy. «Å ha flere kvinner representert i bransjen kommer til å endre perspektivene som blir brakt på bordet i de tidlige designfasene og i den forestilte fremtidige brukeren og forstå mangfoldet til potensielle brukere."

Jacqueline Feldman designet KAI, en chatbot, for å ha en bot-personlighet. Det styrer folk bort fra å stille spørsmål om kjønnet eller komme med seksuelle forslag. Feldmans bakgrunn er innen skriving og litteratur, og Strengers vil gjerne se flere mennesker fra disipliner som antropologi og sosiologi inkluderes i å lage A.I. og roboter, "slik at vi ikke bare har på teknologiens grenser de virkelig tekniske sinnene som lager disse ting," sa hun, "at det blir sett på som et samarbeid med andre disipliner, og det blir sett på som en sosial mulighet like mye som det er en teknisk."

“Det er ikke en enkel løsning, en løsning som passer for alle som vi foreslår her," la hun til. "Det er mange forskjellige elementer som må endres for at dette skal snu."

Redaktørenes anbefalinger

• Amerikanske myndigheter lanserer et nytt cybersikkerhetsprogram for smarthusenheter i 2024
• Bryt ut av sporet med disse nyttige sommerfokuserte smarthusrutinene
• 6 smarte hjemmeenheter som kan spare deg for hundrevis i året
• Vivints nye oppdateringer gjør smarthussystemet enda smartere
• Home Depots nye Hubspace-kompatible elementer inkluderer smartplugg