Alexa, Siri e outros IA Assistentes precisam de uma reinicialização feminista

Há alguns anos, quando as pessoas descobriram como fazer o assistente de voz da Apple xingar, os repórteres rapidamente culparam a tecnologia. “Siri tem uma boca ruim;” ela deu um “resposta chocantemente inadequada”ou um“resposta do robo excitado”para qualquer pessoa que pedisse uma segunda definição de “mãe”. Quando o assistente de voz responde atrevidamente a um pedido para dividir zero por zero, determinamos que ela está louca e estamos a um passo de Exterminador do Futuro vezes.

É fácil ver por que antropomorfizamos Siri e sua IA. irmãos. Ela tem um nome e, aparentemente, um gênero. Mas falhar em um dispositivo – e não naqueles que o programam – é um sintoma de um problema muito maior, de acordo com a Dra. Yolande Strengers, associada professor do Departamento de Computação Centrada no Ser Humano da Monash University, e Dra. Jenny Kennedy, pesquisadora de pós-doutorado na RMIT University, Melbourne. Seu novo livro,

Esposa inteligente: por que Siri, Alexa e outros dispositivos domésticos inteligentes precisam de uma reinicialização feminista, explora os estereótipos prejudiciais que estão por trás das respostas otimistas de Alexa e do sarcasmo de Siri.

Mesmo que você interaja apenas ocasionalmente com esses assistentes digitais, eles ainda se enquadram na categoria de esposa inteligente, disse Kennedy ao Digital Trends. “É qualquer forma de tecnologia, dispositivo ou assistente projetado para desempenhar qualquer tipo de função de esposa no lar”, disse ela. Muitos dispositivos domésticos inteligentes têm como objetivo diminuir o que tradicionalmente é considerado trabalho feminino: Aspiradores robóticos, máquinas de lavar roupa inteligentes, e todo tipo de utensílios de cozinha. Siri, Alexa, e Página inicial do Google também lembrá-lo de pegar sua lavagem a seco, ter configurações automatizadas para quando você estiver dando uma festa e poder contar uma história para as crianças antes de dormir. “Eles também estão reforçando a forma como o trabalho doméstico é dividido entre os diferentes atores”, disse Kennedy sobre esposas inteligentes. “Atualmente, grande parte do trabalho doméstico, do trabalho diário, do trabalho emocional, ainda cabe a um grupo feminizado, seja ele humano ou outro.”

“Temos tantos estereótipos muito semelhantes, muito nostálgicos e problemáticos da esposa e do trabalho feminizado sendo projetados nessas tecnologias que irão então para os mercados de massa em todo o mundo”, disse Fortalecedores. “Então, não é tanto que ela seja esposa, necessariamente, esse é o problema. É o tipo de esposa que ela é e o tipo de mulher que ela retrata ser.”

Resolver os problemas com esposas inteligentes exige mais do que mudar o gênero padrão da voz de feminino para masculino, dizem Kennedy e Strengers. Eles precisam de uma reinicialização completa.

Óculos cor Rosie 

Se você deu um nome ao seu Roomba, há uma boa chance você chama isso de Rosie, depois Os Jetsons' empregada robô. “No que diz respeito às esposas inteligentes, Rosie tem tudo”, escrevem Kennedy e Strengers. “Ela incorpora os valores fundamentais comumente associados ao estereótipo da dona de casa zelosa dos anos 1950 – com alguns bônus adicionais.”

A razão pela qual o seu aspirador robô evoca a eficiente empregada de desenho animado não é um erro. No livro, Strengers e Kennedy traçam a história dos robôs, assistentes virtuais e chatbots. Até mesmo um dos primeiros programas de computador para processamento de linguagem natural, ELIZA, foi feminizado, batizado em homenagem a Eliza Doolittle no livro de George Bernard Shaw. Pigmalião e Minha Bela Dama. Uma mulher robótica apareceu na tela relativamente cedo, em 1949 A Mulher Perfeita. “Existe uma ligação muito clara que demonstramos no livro entre essas versões da cultura popular da esposa inteligente e como as mulheres na tela são retratada de forma artificial e como isso cria inspiração e base para designs de esposas realmente inteligentes que agora temos em nossas casas”, disse Fortalecedores.

“A tecnologia quase sempre prometeu demais e entregou de forma insuficiente, especialmente quando se trata de casa”, escrevem Strengers e Kennedy. Nossos aspiradores robôs não se parecem em nada com Rosie. Os Jetsons não precisaram se endireitar antes que Rosie rolasse, por medo de que algo ficasse preso em suas rodas ou que ela esbarrasse em um objeto imóvel. Eles nunca se preocuparam com o que aconteceria se Rosie encontrasse Astro no cocô de cachorro.

Devido às suas limitações, os dispositivos domésticos inteligentes às vezes podem criar mais trabalho para nós. É como o chamado “problema do espremedor”. Eles deveriam tornar o suco mais fácil. Se você já teve um, sabe que pode ser um pesadelo limpá-lo. Mas agora você tem esse dispositivo caro e precisa fazer o seu dinheiro valer a pena. Antes do espremedor, você simplesmente comprava uma caixa de suco de laranja e encerrava o dia. É por isso que a autora Ruth Schwartz Cowan observou que a tecnologia muitas vezes cria “mais trabalho para a mãe”Fornecendo dispositivos que deveriam tornar seu trabalho doméstico simples e a casa impecável.

“Muitas vezes, quanto mais dispositivos chegam às casas, mais trabalho é criado”, disse Kennedy, e ela prevê que isso continuará com os dispositivos inteligentes. Adicioná-los novamente à rede Wi-Fi ou solucionar erros cria o que os pesquisadores chamam de “manutenção digital”.

“Na verdade, isso consome muito tempo e energia e não está sendo considerado parte do trabalho doméstico que precisa ser feito”, disse Kennedy. Muitas vezes cabe aos homens, que podem considerar os gadgets um dos seus hobbies, ou podem fazer parte do seu trabalho fora de casa. Mas se um dos parceiros estiver desembaraçando o aspirador robô, ele também não estará tirando o lixo ou dobrando a roupa, para que o trabalho possa recair sobre a outra pessoa.

Consertar um dispositivo doméstico inteligente pode exigir alguma habilidade ou conhecimento técnico, mas Kennedy e Strengers escrevem no livro que os robôs eles próprios são frequentemente vistos como substitutos do trabalho braçal: “Embutido em nosso ídolo Rosie está a suposição de que o trabalho doméstico é algo que deve ser apagado e removido das nossas vidas – que o trabalho das mulheres deve ser feito de forma silenciosa e eficiente, e é suficientemente simples para ser atribuído a uma alternativa autónoma. Uma implicação é que é mundano, fácil e sem valor.”

Alexa, sua idiota

Quando nossos robôs não funcionam da maneira que esperamos, é fácil ficar frustrado. Se você gritar e xingar seu assistente de voz, isso não vai incomodá-lo, certo? Mas Kennedy e Strengers ainda acham que é uma má ideia. “Não se trata tanto de proteger os sentimentos dos robôs, mas de se preocupar com a forma como qualquer forma de abuso de um objeto antropomorfizado e, especialmente, feminizado pode ajudar a normalizar o abuso da feminização”, disse Kennedy.

Os maus-tratos podem ser especialmente preocupantes para os sexbots, dizem ela e Strengers, que às vezes têm “personalidades” programadas, como “frígidas”. Isto poderia levantar questões complicadas em torno do consentimento, alguns críticos dizem – não com robôs, mas com outros humanos.

“Eles não estão necessariamente dizendo que isso significa que farão isso com as mulheres”, disse Kennedy. “Mas ainda assim, apenas alimenta a cultura, e é com isso que nos preocupamos.”

Os robôs comuns tendem a compartilhar certas características com os sexbots. “Estamos realmente preocupados com esta tendência de tornar estes robôs e dispositivos agradáveis”, disse Strengers. Eles costumam ser fofos, com olhos grandes e vozes suaves. “Isso serve a um propósito, que é nos fazer aceitar esses dispositivos em nossas vidas”, disse ela.

Mas, novamente, diz ela, isso reforça as expectativas sobre a aparência e o comportamento das mulheres. “Eles estão perpetuando uma forma particular de feminilidade, que é apenas uma das muitas, muitas formas de feminilidade e é indiscutivelmente bastante desatualizado em termos da forma como as mulheres agem, são representadas e vivem agora no século 21”, ela disse.

Em vez disso, os designers deveriam encontrar novas maneiras de projetar robôs e outros dispositivos. “Existem outras maneiras de abordar a simpatia”, disse Strengers. “Não é que tenhamos que projetar robôs Terminator que serão rudes e horríveis e, você sabe, atirar em nós enquanto dormimos.”

O futuro (bot) não é feminino 

Simplesmente mudar a voz e o design físico não é suficiente, argumentam. “Também se trata das personalidades fundamentais que estão sendo projetadas nesses dispositivos”, disse Strengers. Ela e Kennedy oferecem um manifesto de nove passos para reequipar estas esposas inteligentes para que promovam a igualdade e a diversidade de género.

“Um dos principais é quem codifica”, disse Kennedy. “Ter mais mulheres representadas na indústria vai mudar as perspectivas que são apresentadas nessas fases iniciais de design e no futuro usuário imaginado e na compreensão da diversidade de usuários potenciais.”

Jacqueline Feldman desenhou KAI, um chatbot, para ter personalidade de bot. Isso evita que as pessoas façam perguntas sobre seu gênero ou façam sugestões sexuais. A formação de Feldman é escrita e literatura, e Strengers gostaria de ver mais pessoas de disciplinas como antropologia e sociologia ser incluído na criação de IA. e bots, “para que não tenhamos apenas nas fronteiras da tecnologia aquelas mentes realmente técnicas que fazem essas coisas”, disse ela, “que é visto como um esforço colaborativo com outras disciplinas e é visto tanto como uma oportunidade social quanto como um técnico.”

“Não é uma solução fácil de resolver e de tamanho único que estamos propondo aqui”, acrescentou ela. “Há muitos elementos diferentes que precisam mudar para que isso mude.”

Recomendações dos Editores

• Governo dos EUA lançará um novo programa de segurança cibernética para dispositivos domésticos inteligentes em 2024
• Saia da rotina com essas rotinas úteis de casa inteligente focadas no verão
• 6 dispositivos domésticos inteligentes que podem economizar centenas por ano
• As novas atualizações da Vivint tornam seu sistema doméstico inteligente ainda mais inteligente
• Os novos itens compatíveis com Hubspace da Home Depot incluem plugue inteligente