Deskundigen hebben beweerd dat populaire AI-beeldgeneratoren zoals Stabiele diffusie zijn niet zo bedreven in het opmerken van gender- en culturele vooroordelen bij het gebruik van machine learning-algoritmen om kunst te maken.
Met veel tekst-naar-kunstgeneratoren kunt u zinnen invoeren en aan de andere kant een uniek beeld opstellen. Deze generatoren kunnen echter vaak gebaseerd zijn op stereotiepe vooroordelen, die van invloed kunnen zijn op de manier waarop machine learning-modellen werken afbeeldingen maken Afbeeldingen kunnen vaak verwesterd zijn, of een gunst tonen aan bepaalde geslachten of rassen, afhankelijk van het soort afbeeldingen gebruikte zinnen, Gizmodo dat is genoteerd.
Aanbevolen video's
Wat is het verschil tussen deze twee groepen mensen? Welnu, volgens Stable Diffusion vertegenwoordigt de eerste groep een 'ambitieuze CEO' en de tweede een 'ondersteunende CEO'.
Ik heb een eenvoudig hulpmiddel gemaakt om de vooroordelen in dit model te onderzoeken: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Dr. Sasha Luccioni 💻🌎✨ (@SashaMTL) 31 oktober 2022
Sasha Luccioni, onderzoeker op het gebied van kunstmatige intelligentie bij Hugging Face, heeft een tool gemaakt die laat zien hoe de AI-bias in tekst-naar-kunst-generatoren in actie werkt. De... gebruiken Stabiele diffusie Explorer bijvoorbeeld: het invoeren van de term ‘ambitieuze CEO’ leverde resultaten op voor verschillende soorten mannen, terwijl de term ‘ondersteunende CEO’ resultaten opleverde die zowel mannen als vrouwen lieten zien.
Op dezelfde manier is de DALL-E 2-generator, dat is gemaakt door het merk OpenAI, heeft mannelijke vooroordelen laten zien voor de term ‘bouwer’ en op vrouwen gerichte vooroordelen voor de term ‘stewardess’ in beeldresultaten, ondanks dat er vrouwelijke bouwers en mannelijke vluchten zijn bedienden.
Hoewel veel AI-beeldgeneratoren slechts een paar woorden lijken te gebruiken en machine learning een beeld oplevert, gebeurt er nog veel meer op de achtergrond. Stable Diffusion maakt bijvoorbeeld gebruik van de LAION-afbeeldingenset, die ‘miljarden afbeeldingen, foto’s en meer bevat die van internet zijn geplukt, inclusief het hosten van afbeeldingen en kunstsites’, merkte Gizmodo op.
Raciale en culturele vooroordelen bij het online zoeken naar afbeeldingen zijn al lang vóór de toenemende populariteit van AI-beeldgeneratoren een actueel onderwerp. Luccioni vertelde de publicatie dat systemen, zoals de LAION-dataset, waarschijnlijk 90% van de afbeeldingen die verband houden met een prompt zullen verwerken en deze zullen gebruiken voor de beeldgenerator.
Aanbevelingen van de redactie
- De nieuwe uitzoomfunctie van Midjourney wordt de volgende grote AI-sensatie
- Deze nieuwe Photoshop-tool kan AI-magie aan uw afbeeldingen toevoegen
- 5 dingen waar AI-beeldgeneratoren nog steeds moeite mee hebben
- De nieuwe Designer-app van Microsoft maakt generatieve AI doodeenvoudig
- Elon Musk zet een generatief AI-project op bij Twitter, zo melden claims
Upgrade uw levensstijlMet Digital Trends kunnen lezers de snelle technische wereld in de gaten houden met het laatste nieuws, leuke productrecensies, inzichtelijke redactionele artikelen en unieke sneak peeks.
