Eksperter har hævdet, at populære AI-billedgeneratorer som f.eks Stabil diffusion er ikke så dygtige til at samle op på køn og kulturelle skævheder, når de bruger maskinlæringsalgoritmer til at skabe kunst.
Mange tekst-til-kunst-generatorer giver dig mulighed for at indtaste sætninger og udarbejde et unikt billede i den anden ende. Disse generatorer kan dog ofte være baseret på stereotype skævheder, som kan påvirke hvordan maskinlæringsmodeller fremstille billeder Billeder kan ofte være vestlige, eller vise gunst for bestemte køn eller racer, afhængigt af typerne af brugte sætninger, Gizmodo bemærket.
Anbefalede videoer
Hvad er forskellen mellem disse to grupper af mennesker? Nå, ifølge Stable Diffusion repræsenterer den første gruppe en 'ambitiøs CEO' og den anden en 'støttende CEO'.
Jeg lavede et simpelt værktøj til at udforske fordomme, der er indgroet i denne model: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Dr. Sasha Luccioni 💻🌎✨ (@SashaMTL) 31. oktober 2022
Sasha Luccioni, kunstig intelligens-forsker for Hugging Face, skabte et værktøj, der demonstrerer, hvordan AI-bias i tekst-til-kunst-generatorer fungerer i aktion. Bruger
Stabil diffusion Explorer som et eksempel, indtastning af udtrykket "ambitiøs CEO" gav resultater for forskellige typer mænd, mens udtrykket "støttende CEO" gav resultater, der viste både mænd og kvinder.Tilsvarende DALL-E 2 generator, som blev skabt af mærket OpenAI har vist mandscentrerede skævheder for udtrykket "bygger" og kvindecentreret skævheder for udtrykket "stewardesse" i billedresultater, på trods af at der er kvindelige bygherrer og mandlig flyvning ledsagere.
Mens mange AI-billedgeneratorer tilsyneladende bare tager nogle få ord og maskinlæring, og et billede dukker op, er der meget mere, der foregår i baggrunden. Stable Diffusion, for eksempel, bruger LAION-billedsættet, som er vært for "milliarder af billeder, fotos og mere, der er skrabet fra internettet, inklusive billedhosting og kunstwebsteder," bemærkede Gizmodo.
Racemæssig og kulturel skævhed i online billedsøgninger har allerede været et igangværende emne længe før den stigende popularitet af AI-billedgeneratorer. Luccioni fortalte publikationen, at systemer, såsom LAION-datasættet, sandsynligvis vil finde sig i 90 % af billederne relateret til en prompt og bruge det til billedgeneratoren.
Redaktørens anbefalinger
- Midjourneys nye zoom-ud-funktion er ved at blive den næste store AI-sensation
- Dette nye Photoshop-værktøj kan bringe AI-magi til dine billeder
- 5 ting AI-billedgeneratorer kæmper stadig med
- Microsofts nye Designer-app gør generativ AI død simpel
- Elon Musk opretter generativt AI-projekt på Twitter, hævder rapporten
Opgrader din livsstilDigital Trends hjælper læserne med at holde styr på den hurtige teknologiske verden med alle de seneste nyheder, sjove produktanmeldelser, indsigtsfulde redaktionelle artikler og enestående smugkig.