Alexa, Siri y otras IA Los asistentes necesitan un reinicio feminista

Hace unos años, cuando la gente descubrió cómo hacer que el asistente de voz de Apple dijera malas palabras, los periodistas rápidamente culparon a la tecnología. “Siri tiene mala boca;” ella dio un "respuesta sorprendentemente inapropiada"o un"respuesta de robo cachondo”a cualquiera que pidiera una segunda definición de “madre”. Cuando el asistente de voz responde atrevidamente a una solicitud para dividir cero entre cero, determinamos que ella se ha vuelto loca y estamos a un paso de terminador veces.

Es fácil ver por qué antropomorfizamos a Siri y su IA. hermanos de religion. Tiene un nombre y, aparentemente, un género. Pero fallar en un dispositivo (no en quienes lo programan) es un síntoma de un problema mucho mayor, según la Dra. Yolande Strengers, asociada profesora del Departamento de Computación Centrada en las Personas de la Universidad de Monash, y la Dra. Jenny Kennedy, investigadora postdoctoral en la Universidad RMIT, Melbourne. Su nuevo libro,

Esposa inteligente: por qué Siri, Alexa y otros dispositivos domésticos inteligentes necesitan un reinicio feminista, explora los estereotipos dañinos que se esconden detrás de las respuestas optimistas de Alexa y el sarcasmo de Siri.

Incluso si solo interactúas ocasionalmente con estos asistentes digitales, aún entran en la categoría de esposa inteligente, le dice Kennedy a Digital Trends. “Es cualquier forma de tecnología, dispositivo o asistente diseñado para desempeñar cualquier tipo de función de esposa en el hogar”, dijo. Muchos dispositivos domésticos inteligentes están destinados a reducir lo que tradicionalmente se considera trabajo de las mujeres: aspiradoras robotizadas, máquinas de lavandería inteligentes, y todo tipo de electrodomésticos de cocina. siri, alexa, y Página principal de Google También le recuerda que recoja la ropa de la tintorería, que tenga configuraciones automáticas para cuando organice una fiesta y que pueda contarles a los niños un cuento antes de dormir. "También están reforzando cómo se divide el trabajo dentro del hogar entre diferentes actores", dijo Kennedy sobre las esposas inteligentes. "Actualmente, gran parte de las tareas domésticas, el trabajo diario y el trabajo emocional siguen recayendo en una cohorte feminizada, ya sea humana o no".

“Tenemos tantos estereotipos muy similares, muy nostálgicos y problemáticos sobre la esposa y el trabajo feminizado. se están diseñando en estas tecnologías que luego van a los mercados masivos de todo el mundo”, dijo Fortalecedores. “Entonces, no es tanto que ella sea esposa, necesariamente, ese es el problema. Es el tipo de esposa que es y el tipo de mujer que se presenta”.

Solucionar los problemas con las esposas inteligentes requiere algo más que cambiar el género predeterminado de la voz de femenina a masculina, dicen Kennedy y Strengers. Necesitan un reinicio completo.

Gafas color rosa 

Si le has dado un nombre a tu Roomba, hay una buena posibilidad lo llamas Rosie, después Los Supersónicos'criada robot. "En lo que respecta a las esposas inteligentes, Rosie lo tiene todo", escriben Kennedy y Strengers. "Ella encarna los valores fundamentales comúnmente asociados con el estereotipo de ama de casa obediente de la década de 1950, con algunas ventajas adicionales".

La razón por la que su robot aspirador evoca a la eficiente criada de dibujos animados no es un error. En el libro, Strengers y Kennedy rastrean la historia de los robots, los asistentes virtuales y los chatbots. Incluso uno de los primeros programas informáticos de procesamiento del lenguaje natural, ELIZA, fue feminizado y recibió el nombre de Eliza Doolittle en la novela de George Bernard Shaw. Pigmalión y Mi Bella Dama. Una mujer robótica apareció en pantalla relativamente temprano, en 1949. La mujer perfecta. "Existe un vínculo realmente claro que demostramos en el libro entre estas versiones de la cultura popular de la esposa inteligente y cómo son las mujeres en la pantalla". retratada de forma artificial y cómo eso crea inspiración y la base para diseños de esposas inteligentes reales que ahora tenemos en nuestros hogares”, dijo Fortalecedores.

“La tecnología casi siempre ha prometido demasiado y no ha cumplido lo suficiente, especialmente cuando se trata del hogar”, escriben Strengers y Kennedy. Nuestros robots aspiradores no se parecen en nada a Rosie. Los Supersónicos no tuvieron que enderezarse antes de que Rosie se diera la vuelta, por temor a que algo se enredara en sus ruedas o que chocara con un objeto inamovible. Nunca se preocuparon por lo que pasaría si Rosie se encontrara con Astro el caca de perro.

Debido a sus limitaciones, los dispositivos domésticos inteligentes a veces pueden generar más trabajo para nosotros. Es como el llamado "problema del exprimidor". Se supone que deben facilitar la extracción de jugos. Sin embargo, si alguna vez ha tenido uno, sabrá que limpiarlo puede ser una pesadilla. Pero ahora tienes este costoso dispositivo y necesitas sacarle provecho a tu dinero. Antes del exprimidor, simplemente habrías comprado un cartón de jugo de naranja y habrías dado por terminado el día. Es por eso que la autora Ruth Schwartz Cowan señaló que la tecnología a menudo crea "más trabajo para madre”proporcionándole dispositivos que se suponía que harían que sus tareas domésticas fueran simples y el hogar impecable.

"A menudo, cuantos más dispositivos entran en el hogar, más trabajo se crea", dijo Kennedy, y predice que esto continuará con los dispositivos inteligentes. Volver a agregarlos a la red Wi-Fi o solucionar errores crea lo que los investigadores llaman "limpieza digital".

“En realidad, esto requiere mucho tiempo y energía, y no se considera parte del conjunto de tareas domésticas que deben realizarse”, dijo Kennedy. A menudo recae en los hombres, quienes podrían considerar los dispositivos como uno de sus pasatiempos o podrían ser parte de su trabajo fuera del hogar. Pero si uno de los socios está desenredando el robot aspirador, tampoco saca la basura ni dobla la ropa, por lo que el trabajo puede recaer en la otra persona.

Reparar un dispositivo doméstico inteligente puede requerir cierta habilidad o conocimiento técnico, pero Kennedy y Strengers escriben en el libro que los robots a menudo se consideran que reemplazan el trabajo servil: “Incrustado en nuestro ídolo Rosie hay una suposición de que el trabajo doméstico es algo que debería ser borrado y eliminado de nuestras vidas: que el trabajo de las mujeres debe realizarse de manera silenciosa y eficiente, y que es lo suficientemente simple como para asignarlo a una alternativa autónoma. Una implicación es que es mundano, fácil y sin valor”.

alexa, idiota

Cuando nuestros robots no funcionan como esperamos, es fácil frustrarse. Si le gritas y maldices a tu asistente de voz, no le molestará, ¿verdad? Pero Kennedy y Strengers todavía piensan que es una mala idea. “No se trata tanto de proteger los sentimientos de los robots como de preocuparse por cómo se puede producir cualquier forma de abuso de un robot. El objeto antropomorfizado y, especialmente, feminizado puede ayudar a normalizar el abuso de la feminización”, dijo Kennedy.

El maltrato puede ser especialmente preocupante para los robots sexuales, dicen ella y Strengers, que a veces tienen "personalidades" programadas como "frígidas". Esto podría plantear preguntas complicadas sobre el consentimiento, algunos críticos dicen – no con robots, sino con otros humanos.

"No necesariamente están diciendo que eso significa que saldrán y le harán eso a las mujeres", dijo Kennedy. "Pero aún así, simplemente alimenta la cultura, y eso es lo que nos preocupa".

Los robots cotidianos tienden a compartir ciertos rasgos con los sexbots. "Estamos realmente preocupados por esta tendencia a hacer que estos robots y dispositivos sean agradables", dijo Strengers. Suelen ser lindos, con ojos grandes y voces suaves. "Tiene un propósito, que es hacernos aceptar estos dispositivos en nuestras vidas", dijo.

Pero nuevamente, dice, eso refuerza las expectativas sobre cómo deben verse y comportarse las mujeres. “Están perpetuando una forma particular de feminidad, que es sólo una de las muchas, muchas formas de feminidad y es Podría decirse que está bastante desactualizado en términos de la forma en que las mujeres actúan, son representadas y viven ahora en el siglo XXI”, dijo. dicho.

En cambio, los diseñadores deberían encontrar nuevas formas de diseñar robots y otros dispositivos. "Hay otras formas de abordar la simpatía", dijo Strengers. "No es que tengamos que diseñar robots Terminator que vayan a ser groseros y horribles y, ya sabes, nos disparen mientras dormimos".

El futuro (bot) no es femenino 

Argumentan que simplemente cambiar la voz y el diseño físico no es suficiente. "Se trata también de las personalidades fundamentales que se están diseñando en estos dispositivos", dijo Strengers. Ella y Kennedy ofrecen un manifiesto de nueve pasos para reequipar a estas esposas inteligentes para que promuevan la equidad y la diversidad de género.

"Uno de los principales es quién llega a codificar", dijo Kennedy. “Tener más mujeres representadas en la industria cambiará las perspectivas que se ponen sobre la mesa. en esas primeras fases de diseño y en el futuro usuario imaginado y en la comprensión de la diversidad de usuarios potenciales”.

Jacqueline Feldman diseñó kai, un chatbot, tener personalidad de bot. Evita que las personas hagan preguntas sobre su género o hagan sugerencias sexuales. La experiencia de Feldman es en escritura y literatura, y a Strengers le gustaría ver a más personas de disciplinas como la antropología y la sociología. ser incluido en la creación de A.I. y bots, “para que no tengamos en las fronteras de la tecnología esas mentes realmente técnicas que hacen estos cosas”, dijo, “que se ve como un esfuerzo de colaboración con otras disciplinas y se ve tanto como una oportunidad social como una oportunidad”. uno técnico”.

“No es una solución única y fácil de solucionar lo que proponemos aquí”, añadió. "Hay muchos elementos diferentes que deben cambiar para que esto cambie".

Recomendaciones de los editores

• El gobierno de EE. UU. lanzará un nuevo programa de ciberseguridad para dispositivos domésticos inteligentes en 2024
• Salga de la rutina con estas útiles rutinas domésticas inteligentes centradas en el verano
• 6 dispositivos domésticos inteligentes que pueden ahorrarle cientos al año
• Las nuevas actualizaciones de Vivint hacen que su sistema de hogar inteligente sea aún más inteligente
• Los nuevos artículos compatibles con Hubspace de Home Depot incluyen un enchufe inteligente