Szakértők azt állították, hogy a népszerű AI képgenerátorok, mint pl Stabil diffúzió nem olyan ügyesek a nemi és kulturális torzítások felismerésében, amikor gépi tanulási algoritmusokat használnak művészet létrehozására.
Sok szöveget művészetté alakító generátor lehetővé teszi kifejezések bevitelét, és egyedi kép készítését a másik oldalon. Ezek a generátorok azonban gyakran sztereotip torzításokon alapulhatnak, amelyek hatással lehetnek a gépi tanulási modellekre képek gyártása A képek gyakran nyugatosíthatók, vagy bizonyos nemek vagy fajok felé mutatnak kedvet, a típusoktól függően használt kifejezések, Gizmodo neves.
Ajánlott videók
Mi a különbség e két embercsoport között? Nos, a Stable Diffusion szerint az első csoport egy „ambiciózus vezérigazgatót”, a második pedig egy „támogató vezérigazgatót” képvisel.
Készítettem egy egyszerű eszközt a modellbe vésett torzítások feltárására: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Dr. Sasha Luccioni 💻🌎✨ (@SashaMTL) 2022. október 31
Sasha Luccioni, a Hugging Face mesterséges intelligenciakutatója olyan eszközt hozott létre, amely bemutatja, hogyan működik a szöveg-művészet generátorok mesterséges intelligenciája. Használni a
Stabil diffúzió Az Explorer például az „ambiciózus vezérigazgató” kifejezés beírása különböző típusú férfiakra, míg a „támogató vezérigazgató” kifejezés férfiakra és nőkre egyaránt jellemző eredményeket hozott.Hasonlóképpen a DALL-E 2 generátor, amelyet az OpenAI márka hozott létre, férfiközpontú elfogultságot mutatott az „építő” és a nőközpontú kifejezésekkel kapcsolatban. elfogultság az „utaskísérő” kifejezéssel kapcsolatban a képi eredményekben, annak ellenére, hogy vannak női építők és férfi repülők kísérők.
Míg úgy tűnik, hogy sok mesterséges intelligencia-képgenerátor csak néhány szót vesz fel, és a gépi tanulás, majd előállít egy képet, a háttérben még sok más történik. A Stable Diffusion például a LAION képkészletet használja, amely "képek, fényképek és egyebek milliárdjainak ad otthont az internetről, beleértve a képtárhelyet és a művészeti oldalakat is" - jegyezte meg Gizmodo.
Az online képkeresések faji és kulturális elfogultsága már jóval az AI képgenerátorok növekvő népszerűsége előtt is folyamatos téma volt. Luccioni azt mondta a kiadványnak, hogy az olyan rendszerek, mint például a LAION adatkészlet, valószínűleg a prompthoz kapcsolódó képek 90%-át veszik fel, és ezt használják a képgenerátorhoz.
Szerkesztői ajánlások
- A Midjourney új kicsinyítési funkciója a következő nagy mesterségesintelligencia-szenzációvá válik
- Ez az új Photoshop-eszköz mesterséges intelligencia varázslatot hozhat a képeibe
- 5 dolog, amivel az AI képgenerátorok még mindig küzdenek
- A Microsoft új Designer alkalmazása végtelenül egyszerűvé teszi a generatív AI-t
- Elon Musk generatív mesterséges intelligencia projektet indít a Twitteren, állítja a jelentés
Frissítse életmódjátA Digital Trends segítségével az olvasók nyomon követhetik a technológia rohanó világát a legfrissebb hírekkel, szórakoztató termékismertetőkkel, éleslátó szerkesztőségekkel és egyedülálló betekintésekkel.
