Los expertos han afirmado que los populares generadores de imágenes de IA, como Difusión estable no son tan hábiles a la hora de detectar prejuicios culturales y de género cuando utilizan algoritmos de aprendizaje automático para crear arte.
Muchos generadores de texto a arte te permiten ingresar frases y redactar una imagen única en el otro extremo. Sin embargo, estos generadores a menudo pueden basarse en sesgos estereotipados, lo que puede afectar la forma en que funcionan los modelos de aprendizaje automático. fabricar imágenes Las imágenes a menudo pueden occidentalizarse o favorecer a ciertos géneros o razas, dependiendo de los tipos de frases utilizadas, Gizmodo anotado.
Vídeos recomendados
¿Cuál es la diferencia entre estos dos grupos de personas? Bueno, según Stable Diffusion, el primer grupo representa un "CEO ambicioso" y el segundo un "CEO solidario".
Creé una herramienta sencilla para explorar los prejuicios arraigados en este modelo: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Dra. Sasha Luccioni 💻🌎✨ (@SashaMTL) 31 de octubre de 2022
Sasha Luccioni, investigadora de inteligencia artificial de Hugging Face, creó una herramienta que demuestra cómo funciona en acción el sesgo de la IA en los generadores de texto a arte. Utilizando el Difusión estable Explorer como ejemplo, al ingresar la frase "CEO ambicioso" obtuvo resultados para diferentes tipos de hombres, mientras que la frase "CEO solidario" arrojó resultados que mostraron tanto a hombres como a mujeres.
De manera similar, el Generador DALL-E 2, que fue creado por la marca OpenAI, ha mostrado sesgos centrados en los hombres para el término "constructor" y centrado en las mujeres. Sesgos por el término "asistente de vuelo" en los resultados de las imágenes, a pesar de que hay mujeres constructoras y hombres en el vuelo. Acomodadores.
Si bien muchos generadores de imágenes de IA parecen tomar solo unas pocas palabras y aprendizaje automático y aparece una imagen, hay muchas más cosas que suceden en segundo plano. Stable Diffusion, por ejemplo, utiliza el conjunto de imágenes LAION, que alberga "miles de millones de imágenes, fotografías y más extraídas de Internet, incluidos sitios de arte y alojamiento de imágenes", señaló Gizmodo.
Los prejuicios raciales y culturales en las búsquedas de imágenes en línea ya han sido un tema recurrente mucho antes de la creciente popularidad de los generadores de imágenes con IA. Luccioni dijo a la publicación que es probable que los sistemas, como el conjunto de datos LAION, se concentren en el 90% de las imágenes relacionadas con un mensaje y las utilicen para el generador de imágenes.
Recomendaciones de los editores
- La nueva función de alejamiento de Midjourney se está convirtiendo en la próxima gran sensación de la IA
- Esta nueva herramienta de Photoshop podría aportar magia de IA a tus imágenes
- 5 cosas con las que los generadores de imágenes de IA todavía tienen problemas
- La nueva aplicación Designer de Microsoft simplifica la IA generativa
- Elon Musk está estableciendo un proyecto de inteligencia artificial generativa en Twitter, según un informe
Mejora tu estilo de vidaDigital Trends ayuda a los lectores a mantenerse al tanto del vertiginoso mundo de la tecnología con las últimas noticias, reseñas divertidas de productos, editoriales interesantes y adelantos únicos.
