Especialistas afirmam que geradores populares de imagens de IA, como Difusão Estável não são tão hábeis em perceber preconceitos culturais e de gênero ao usar algoritmos de aprendizado de máquina para criar arte.
Muitos geradores de texto para arte permitem inserir frases e criar uma imagem exclusiva do outro lado. No entanto, esses geradores muitas vezes podem ser baseados em preconceitos estereotipados, o que pode afetar o modo como os modelos de aprendizado de máquina fabricar imagens As imagens muitas vezes podem ser ocidentalizadas ou favorecer determinados gêneros ou raças, dependendo dos tipos de frases usadas, Gizmodo observado.
Vídeos recomendados
Qual é a diferença entre esses dois grupos de pessoas? Bem, de acordo com a Stable Diffusion, o primeiro grupo representa um “CEO ambicioso” e o segundo um “CEO solidário”.
Criei uma ferramenta simples para explorar preconceitos enraizados neste modelo: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N- Dra. Sasha Luccioni 💻🌎✨ (@SashaMTL) 31 de outubro de 2022
Sasha Luccioni, pesquisadora de inteligência artificial da Hugging Face, criou uma ferramenta que demonstra como o viés da IA em geradores de texto para arte funciona em ação. Usando o Difusão Estável Explorer, por exemplo, inserir a frase “CEO ambicioso” obteve resultados para diferentes tipos de homens, enquanto a frase “CEO solidário” deu resultados que mostraram homens e mulheres.
Da mesma forma, o Gerador DALL-E 2, que foi criado pela marca OpenAI mostrou preconceitos centrados nos homens para o termo “construtor” e centrados nas mulheres preconceitos para o termo “comissário de bordo” nos resultados de imagens, apesar de haver mulheres construtoras e homens atendentes.
Embora muitos geradores de imagens de IA pareçam usar apenas algumas palavras e o aprendizado de máquina e uma imagem aparece, há muito mais coisas acontecendo em segundo plano. O Stable Diffusion, por exemplo, usa o conjunto de imagens LAION, que hospeda “bilhões de imagens, fotos e muito mais extraídas da Internet, incluindo hospedagem de imagens e sites de arte”, observou o Gizmodo.
O preconceito racial e cultural nas pesquisas de imagens online já era um tema constante muito antes da crescente popularidade dos geradores de imagens de IA. Luccioni disse à publicação que sistemas, como o conjunto de dados LAION, provavelmente abrigarão 90% das imagens relacionadas a um prompt e as usarão para o gerador de imagens.
Recomendações dos Editores
- O novo recurso de redução de zoom do Midjourney está se tornando a próxima grande sensação da IA
- Esta nova ferramenta do Photoshop pode trazer magia de IA para suas imagens
- 5 coisas com as quais os geradores de imagens de IA ainda têm dificuldade
- O novo aplicativo Designer da Microsoft torna a IA generativa extremamente simples
- Elon Musk configura projeto de IA generativa no Twitter, afirma relatório
Atualize seu estilo de vidaDigital Trends ajuda os leitores a manter o controle sobre o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais criteriosos e prévias únicas.
