Eksperter har hevdet at populære AI-bildegeneratorer som f.eks Stabil diffusjon er ikke så flinke til å fange opp kjønn og kulturelle skjevheter når de bruker maskinlæringsalgoritmer for å lage kunst.
Mange tekst-til-kunst-generatorer lar deg legge inn setninger og lage et unikt bilde i den andre enden. Imidlertid kan disse generatorene ofte være basert på stereotype skjevheter, noe som kan påvirke hvordan maskinlæringsmodeller produsere bilder Bilder kan ofte være vestliggjort, eller vise gunst til visse kjønn eller raser, avhengig av typen setninger brukt, Gizmodo bemerket.
Anbefalte videoer
Hva er forskjellen mellom disse to gruppene mennesker? Vel, ifølge Stable Diffusion representerer den første gruppen en "ambisiøs administrerende direktør" og den andre en "støttende administrerende direktør".
Jeg laget et enkelt verktøy for å utforske skjevheter som er inngrodd i denne modellen: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Dr. Sasha Luccioni 💻🌎✨ (@SashaMTL) 31. oktober 2022
Sasha Luccioni, kunstig intelligens-forsker for Hugging Face, laget et verktøy som demonstrerer hvordan AI-bias i tekst-til-kunst-generatorer fungerer i aksjon. Bruker
Stabil diffusjon Explorer som et eksempel, å legge inn uttrykket "ambisiøs administrerende direktør" ga resultater for forskjellige typer menn, mens uttrykket "støttende administrerende direktør" ga resultater som viste både menn og kvinner.På samme måte DALL-E 2 generator, som ble opprettet av merket OpenAI har vist mann-sentriske skjevheter for begrepet "bygger" og kvinne-sentrisk skjevheter for begrepet "flyvertinne" i bilderesultater, til tross for at det er kvinnelige byggere og mannlige fly ledsagere.
Mens mange AI-bildegeneratorer ser ut til å bare ta noen få ord og maskinlæring og et bilde dukker opp, er det mye mer som foregår i bakgrunnen. Stable Diffusion, for eksempel, bruker LAION-bildesettet, som er vert for "milliarder bilder, bilder og mer skrapet fra internett, inkludert bildehosting og kunstsider," bemerket Gizmodo.
Rasemessig og kulturell skjevhet i bildesøk på nett har allerede vært et pågående tema lenge før den økende populariteten til AI-bildegeneratorer. Luccioni fortalte publikasjonen at systemer, som for eksempel LAION-datasettet, sannsynligvis vil finne 90 % av bildene relatert til en melding og bruke den til bildegeneratoren.
Redaktørenes anbefalinger
- Midjourneys nye zoom-ut-funksjon er i ferd med å bli den neste store AI-sensasjonen
- Dette nye Photoshop-verktøyet kan bringe AI-magi til bildene dine
- 5 ting AI-bildegeneratorer fortsatt sliter med
- Microsofts nye Designer-app gjør generativ AI helt enkel
- Elon Musk setter opp et generativt AI-prosjekt på Twitter, hevder rapporten
Oppgrader livsstilen dinDigitale trender hjelper leserne å følge med på den fartsfylte teknologiverdenen med alle de siste nyhetene, morsomme produktanmeldelser, innsiktsfulle redaksjoner og unike sniktitter.
