Es posible que Amazon quiera volver a la mesa de dibujo para este. Una herramienta de reconocimiento facial que el gigante minorista ofrece actualmente a los desarrolladores bastante error en una prueba realizada por la Unión Estadounidense de Libertades Civiles (ACLU), informa The New York Times. En lugar de identificar a 28 miembros del Congreso como miembros del poder legislativo del país, la herramienta clasificó a estos individuos como sospechosos de la policía. Para empeorar las cosas, un número desproporcionado de miembros del Congreso afroamericanos y latinos fueron incorrectamente identificado, lo que plantea interrogantes sobre hasta qué punto se ha arraigado el perfilamiento racial incluso en nuestro aprendizaje automático software.
Ahora el Congreso quiere respuestas. Cinco de los legisladores mal identificados solicitan una reunión "inmediata" con el director ejecutivo de Amazon, Jeff Bezos. El jueves 26 de julio, los Representantes. Jimmy Gómez, John Lewis, Luis Gutiérrez y Mark DeSaulnier, así como el Senador. Edward Markey, envió cartas al gigante minorista en línea preguntando por qué no coincidían. Pero más allá de los efectos personales de estos casos de confusión de identidad, los congresistas piden respuestas sobre "cómo abordar los defectos de esta tecnología para evitar errores resultados."
Vídeos recomendados
Amazon no ha indicado aún si su director ejecutivo aceptará estas reuniones.
En una declaración separada, el Representante. G K. Butterfield señaló: "Me preocupan los resultados inexactos asociados con esta tecnología, ya que hay puntos ciegos claros que tendrán consecuencias no deseadas específicamente para las personas de color. Si bien esta tecnología podría tener un potencial económico de gran alcance, aliento a Amazon a capacitar mejor a sus usuarios sobre las mejores prácticas para usarla. tecnología, ser abierto y directo sobre sus limitaciones y contratar más empleados de color que puedan ayudar adecuadamente a abordar los defectos de esta tecnología."
Relacionado
- Los miembros de Amazon Prime pueden reclamar un paquete gratuito de coloridos objetos exóticos de Destiny 2
- Los propietarios de pequeñas empresas piden al Congreso que interrogue a Bezos de Amazon
- Amazon prohíbe a la policía utilizar la tecnología de reconocimiento facial Rekognition durante 1 año
Entre los legisladores mal identificados se encontraban los representantes. John Lewis y Bobby Rush, ambos conocidos líderes de derechos civiles y miembros del Caucus Negro del Congreso. Pero en lugar de ser reconocidos como representantes electos, estos dos hombres (junto con otros 26) fueron señalados falsamente como criminales. Estos errores ocurrieron cuando la ACLU utilizó el software de Amazon para analizar imágenes de todos los miembros del Congreso en una base de datos de 25.000 fotografías policiales de acceso público. Esto resultó en que los 28 miembros del Congreso fueran identificados incorrectamente como infractores de la ley, lo que representa una tasa de error del 5 por ciento.
"Esta prueba confirma que el reconocimiento facial es defectuoso, sesgado y peligroso", dijo a The New York Times Jacob Snow, abogado de tecnología y libertades civiles de la ACLU del norte de California.
En respuesta a la prueba, Nina Lindsey, portavoz de Amazon Web Services, dijo que la ACLU utilizó la herramienta de comparación de rostros (llamada Reconocimiento de Amazon) de manera diferente a las recomendaciones de Amazon. “Vale la pena señalar que en escenarios del mundo real, Amazon Rekognition se utiliza casi exclusivamente para ayudar a reducir la campo y permitir que los humanos revisen y consideren rápidamente opciones usando su criterio”, dijo Lindsey en un declaración.
Señaló además que la ACLU mantuvo el “umbral de confianza” de la herramienta en un valor predeterminado del 80 por ciento. Esto significa que el grupo tomó en cuenta cualquier rostro que coincidiera con un 80 por ciento de similitud con la base de datos de la policía. Sin embargo, vale la pena señalar que Amazon utiliza el mismo umbral en un ejemplo en su sitio web, que muestra cómo los rostros de los empleados pueden coincidir con sus tarjetas de identificación. Lindsey dijo que en el caso de los departamentos de policía, Amazon recomienda que se implemente un umbral del 95 por ciento de similitud para evitar este tipo de errores.
Amazon ha sido criticado anteriormente por vender Rekognition. En mayo, 24 grupos de libertades civiles, encabezados por la ACLU, escribieron una carta al director ejecutivo de Amazon, Jeff Bezos, solicitando que el software dejara de venderse a agencias encargadas de hacer cumplir la ley. Los grupos expresaron su preocupación de que el software pudiera usarse para vigilar a manifestantes, inmigrantes o miembros del público en general, en lugar de solo a sospechosos de la policía. Desde entonces, los empleados, inversores y académicos de Amazon han hecho demandas similares a Amazon.
Por el momento, sin embargo, eso no parece estar en las cartas del gigante de la web. Como dijo el portavoz de Amazon: "Seguimos entusiasmados con cómo el análisis de imágenes y videos puede ser un motor para el bien en el mundo".
Actualizado el 27 de julio: El Congreso exige respuestas de Amazon sobre los errores cometidos por su software Rekognition.
Recomendaciones de los editores
- ¡Ay! Algunos miembros de Amazon Prime se enfrentan a un aumento de precios del 43%
- Cómo ver a los directores ejecutivos de Facebook, Google, Amazon y Apple testificar ante el Congreso
- Amazon, Apple, Facebook y Google testificarán ante el Congreso en julio
- Sen. Josh Hawley pide una investigación criminal antimonopolio sobre Amazon
- El reconocimiento facial militar de EE. UU. podría identificar a personas a 1 km de distancia
Mejora tu estilo de vidaDigital Trends ayuda a los lectores a mantenerse al tanto del vertiginoso mundo de la tecnología con las últimas noticias, reseñas divertidas de productos, editoriales interesantes y adelantos únicos.
