Experter har hävdat att populära AI-bildgeneratorer som t.ex Stabil diffusion är inte så skickliga på att ta upp kön och kulturella fördomar när man använder maskininlärningsalgoritmer för att skapa konst.
Många text-till-art-generatorer låter dig mata in fraser och skapa en unik bild i andra änden. Dessa generatorer kan dock ofta baseras på stereotypa fördomar, vilket kan påverka hur maskininlärningsmodeller tillverka bilder Bilder kan ofta vara västerländska, eller visa förmån för vissa kön eller raser, beroende på vilken typ av använda fraser, Gizmodo noterade.
Rekommenderade videor
Vad är skillnaden mellan dessa två grupper av människor? Tja, enligt Stable Diffusion representerar den första gruppen en "ambitiös VD" och den andra en "stödjande VD".
Jag gjorde ett enkelt verktyg för att utforska fördomar som är inbyggda i den här modellen: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Dr. Sasha Luccioni 💻🌎✨ (@SashaMTL) 31 oktober 2022
Sasha Luccioni, artificiell intelligensforskare för Hugging Face, skapade ett verktyg som visar hur AI-bias i text-to-art-generatorer fungerar i praktiken. Använda
Stabil diffusion Explorer som ett exempel, inmatning av frasen "ambitiös VD" gav resultat för olika typer av män, medan frasen "stödjande VD" gav resultat som visade både män och kvinnor.På liknande sätt DALL-E 2 generator, som skapades av varumärket OpenAI har visat manscentrerade fördomar för termen "byggare" och kvinnocentrerad fördomar för termen "flygvärdinna" i bildresultat, trots att det finns kvinnliga byggare och manlig flygning skötare.
Medan många AI-bildgeneratorer bara tycks ta några ord och maskininlärning och en bild dyker upp, finns det mycket mer som händer i bakgrunden. Stable Diffusion, till exempel, använder bilduppsättningen LAION, som är värd för "miljarder bilder, foton och mer skrapat från internet, inklusive bildvärd och konstsajter", noterade Gizmodo.
Rasmässig och kulturell fördom i bildsökningar online har redan varit ett pågående ämne långt innan AI-bildgeneratorernas ökande popularitet. Luccioni berättade för publikationen att system, som LAION-datauppsättningen, sannolikt kommer in på 90 % av bilderna som är relaterade till en prompt och använder den för bildgeneratorn.
Redaktörens rekommendationer
- Midjourneys nya zoom-out-funktion håller på att bli nästa stora AI-sensation
- Detta nya Photoshop-verktyg kan ge AI-magi till dina bilder
- 5 saker AI-bildgeneratorer fortfarande kämpar med
- Microsofts nya Designer-app gör generativ AI helt enkel
- Elon Musk sätter upp ett generativt AI-projekt på Twitter, hävdar rapporten
Uppgradera din livsstilDigitala trender hjälper läsare att hålla koll på den snabba teknikvärlden med alla de senaste nyheterna, roliga produktrecensioner, insiktsfulla redaktioner och unika smygtittar.
