Dos ejecutivos de Google dijeron el viernes que el sesgo en la inteligencia artificial está perjudicando a comunidades ya marginadas en Estados Unidos, y que es necesario hacer más para garantizar que esto no suceda. X. Eyeé, líder de divulgación para la innovación responsable en Google, y Ángela Williams, director de políticas de Google, habló en (No IRL) Cumbre del Orgullo, un evento organizado por Lesbians Who Tech & Allies, la organización LGBTQ centrada en la tecnología más grande del mundo para mujeres, personas no binarias y trans de todo el mundo.
En separadonegociaciones, abordaron las formas en que la tecnología de aprendizaje automático puede usarse para dañar a la comunidad negra y otras comunidades en Estados Unidos y, en general, en todo el mundo.
Vídeos recomendados
El sesgo en los algoritmos NO ES SÓLO UN PROBLEMA DE DATOS. La elección de utilizar IA puede estar sesgada, la forma en que el algoritmo aprende puede estar sesgada y la forma en que los usuarios se ven afectados/interactúan con/perciben un sistema puede reforzar el sesgo. verificar
@timnitGebru¡Es trabajo para aprender más!- X. Ojoe??? (@TecnologíaConX) 26 de junio de 2020
Williams habló sobre el uso de A.I. para una vigilancia amplia, su papel en vigilancia excesivay su implementación para sentencias sesgadas. "[No es] que la tecnología sea racista, pero podemos codificar nuestro propio prejuicio inconsciente en la tecnología", dijo. Williams destacó la caso de Robert Julian-Borchak Williams, un hombre afroamericano de Detroit que recientemente fue arrestado injustamente después de que un sistema de reconocimiento facial relacionara incorrectamente su foto con imágenes de seguridad de un ladrón. Estudios anteriores han demostrado que los sistemas de reconocimiento facial pueden tener dificultades para distinguir entre diferentes personas negras. “Aquí es donde la A.I. … la vigilancia puede salir terriblemente mal en el mundo real”, dijo Williams.
X. Eyeé también habló sobre cómo la A.I. puede ayudar a “ampliar y reforzar los prejuicios injustos”. Además de los usos más cuasi distópicos y llamativos de A.I., Eyeé se centró en la forma en que el sesgo podría infiltrarse en usos cotidianos y aparentemente más mundanos de la tecnología, incluido el propio Google. herramientas. "En Google, no somos ajenos a estos desafíos", dijo Eyeé. "En los últimos años... hemos aparecido en los titulares varias veces por cómo nuestros algoritmos han impactado negativamente a las personas". Por ejemplo, Google ha desarrollado una herramienta para clasificar la toxicidad de los comentarios en línea. Si bien esto puede ser muy útil, también fue problemático: frases como “Soy una mujer gay negra” inicialmente se clasificaron como más más tóxico que “Soy un hombre blanco”. Esto se debió a una brecha en los conjuntos de datos de entrenamiento, con más conversaciones sobre ciertas identidades que otros.
No existen soluciones generales para estos problemas, dijeron los dos ejecutivos de Google. Dondequiera que se encuentren problemas, Google trabaja para eliminar los prejuicios. Pero el alcance de los lugares potenciales donde el sesgo puede entrar en los sistemas (desde el diseño de algoritmos hasta su implementación en el contexto social en el que se producen los datos significa que siempre habrá problemas ejemplos. La clave es ser conscientes de esto, permitir que dichas herramientas sean analizadas y que diversas comunidades puedan hacer oír su voz sobre el uso de estas tecnologías.
Recomendaciones de los editores
- ¿Puede la IA? ¿Vencer a los ingenieros humanos en el diseño de microchips? Google cree que sí
- La IA de BigSleep es como la búsqueda de imágenes de Google para imágenes que aún no existen
- Google trae de vuelta a los humanos para que se encarguen de moderar el contenido de YouTube desde A.I.
- ¿Noticias falsas? AI. El algoritmo revela sesgos políticos en las historias que lees.
- AI. La mejora hace que esta película de 1896 parezca filmada en deslumbrante 4K
Mejora tu estilo de vidaDigital Trends ayuda a los lectores a mantenerse al tanto del vertiginoso mundo de la tecnología con las últimas noticias, reseñas divertidas de productos, editoriales interesantes y adelantos únicos.
