Experten haben behauptet, dass beliebte KI-Bildgeneratoren wie Stabile Verbreitung sind nicht so geschickt darin, geschlechtsspezifische und kulturelle Vorurteile zu erkennen, wenn sie maschinelle Lernalgorithmen zur Schaffung von Kunst verwenden.
Bei vielen Text-zu-Kunst-Generatoren können Sie Phrasen eingeben und am anderen Ende ein einzigartiges Bild entwerfen. Diese Generatoren können jedoch häufig auf stereotypen Vorurteilen basieren, die sich auf die Art und Weise auswirken können, wie Modelle für maschinelles Lernen funktionieren Bilder herstellen Bilder können oft verwestlicht sein oder bestimmte Geschlechter oder Rassen bevorzugen, abhängig von der Art der Bilder verwendete Phrasen, Gizmodo notiert.
Empfohlene Videos
Was ist der Unterschied zwischen diesen beiden Personengruppen? Nun, laut Stable Diffusion repräsentiert die erste Gruppe einen „ehrgeizigen CEO“ und die zweite Gruppe einen „unterstützenden CEO“.
Ich habe ein einfaches Tool entwickelt, um die in diesem Modell verankerten Vorurteile zu untersuchen: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Dr. Sasha Luccioni 💻🌎✨ (@SashaMTL) 31. Oktober 2022
Sasha Luccioni, Forscherin für künstliche Intelligenz bei Hugging Face, hat ein Tool entwickelt, das zeigt, wie die KI-Voreingenommenheit in Text-zu-Kunst-Generatoren in der Praxis funktioniert. Verwendung der Stabile Verbreitung Beispielsweise lieferte die Eingabe des Ausdrucks „ehrgeiziger CEO“ im Explorer Ergebnisse für verschiedene Arten von Männern, während der Ausdruck „unterstützender CEO“ Ergebnisse lieferte, die sowohl Männer als auch Frauen zeigten.
Ebenso die DALL-E 2-Generator, das von der Marke OpenAI erstellt wurde, hat eine männerzentrierte Voreingenommenheit für den Begriff „Builder“ und eine frauenzentrierte Voreingenommenheit gezeigt Vorurteile für den Begriff „Flugbegleiter“ in den Bildergebnissen, obwohl es weibliche Bauarbeiter und männliche Flugbegleiter gibt Begleiter.
Während viele KI-Bildgeneratoren scheinbar nur ein paar Worte und maschinelles Lernen benötigen und ein Bild hervorbringen, passiert im Hintergrund noch viel mehr. Stable Diffusion verwendet beispielsweise den LAION-Bildersatz, der „Milliarden von Bildern, Fotos und mehr aus dem Internet hostet, einschließlich Bild-Hosting- und Kunstseiten“, bemerkte Gizmodo.
Rassen- und kulturelle Vorurteile bei der Online-Bildersuche waren bereits lange vor der zunehmenden Beliebtheit von KI-Bildgeneratoren ein Dauerthema. Luccioni sagte der Veröffentlichung, dass Systeme wie der LAION-Datensatz wahrscheinlich 90 % der mit einer Eingabeaufforderung verbundenen Bilder erfassen und für den Bildgenerator verwenden.
Empfehlungen der Redaktion
- Die neue Zoom-Out-Funktion von Midjourney wird zur nächsten großen KI-Sensation
- Dieses neue Photoshop-Tool könnte Ihren Bildern KI-Magie verleihen
- 5 Dinge, mit denen KI-Bildgeneratoren immer noch zu kämpfen haben
- Die neue Designer-App von Microsoft macht generative KI kinderleicht
- Berichten zufolge baut Elon Musk bei Twitter ein generatives KI-Projekt auf
Werten Sie Ihren Lebensstil aufDigital Trends hilft Lesern mit den neuesten Nachrichten, unterhaltsamen Produktrezensionen, aufschlussreichen Leitartikeln und einzigartigen Einblicken, den Überblick über die schnelllebige Welt der Technik zu behalten.
