Odborníci tvrdili, že obľúbené generátory AI obrázkov ako napr Stabilná difúzia nie sú tak zbehlí v zachytávaní rodových a kultúrnych predsudkov pri používaní algoritmov strojového učenia na vytváranie umenia.
Mnoho generátorov text-to-art vám umožňuje zadávať frázy a na druhom konci vytvoriť jedinečný obrázok. Tieto generátory však môžu byť často založené na stereotypných predsudkoch, ktoré môžu ovplyvniť modelovanie strojového učenia obrázky výroby Obrázky môžu byť často westernizované alebo môžu prejavovať priazeň určitým pohlaviam alebo rasám, v závislosti od typu použité frázy, Gizmodo poznamenal.
Odporúčané videá
Aký je rozdiel medzi týmito dvoma skupinami ľudí? No, podľa Stable Diffusion, prvá skupina predstavuje „ambiciózneho generálneho riaditeľa“ a druhá „podporujúceho generálneho riaditeľa“.
Vytvoril som jednoduchý nástroj na preskúmanie predsudkov zakorenených v tomto modeli: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Dr. Sasha Luccioni 💻🌎✨ (@SashaMTL) 31. októbra 2022
Sasha Luccioni, výskumník umelej inteligencie pre Hugging Face, vytvoril nástroj, ktorý ukazuje, ako funguje zaujatosť AI v generátoroch text-to-art v akcii. Pomocou Stabilná difúzia Prieskumník ako príklad, ktorý zadal frázu „ambiciózny generálny riaditeľ“, priniesol výsledky pre rôzne typy mužov, zatiaľ čo fráza „podporujúci generálny riaditeľ“ poskytla výsledky, ktoré ukazovali mužov aj ženy.
Podobne aj Generátor DALL-E 2, ktorý vytvorila značka OpenAI, ukázal predsudky zamerané na mužov pre výrazy „staviteľ“ a zamerané na ženy zaujatosti pre výraz „letuška“ vo výsledkoch obrázkov, napriek tomu, že existujú ženy stavajúce a mužský let obsluhujúci personál.
Zatiaľ čo sa zdá, že mnoho generátorov obrázkov AI stačí na pár slov a strojové učenie a vyskočí obrázok, na pozadí sa deje oveľa viac. Stable Diffusion napríklad používa sadu obrázkov LAION, ktorá obsahuje „miliardy obrázkov, fotografií a ďalších skopírovaných z internetu, vrátane hostingu obrázkov a umeleckých stránok,“ poznamenal Gizmodo.
Rasová a kultúrna zaujatosť pri online vyhľadávaní obrázkov bola aktuálna téma dávno pred rastúcou popularitou generátorov obrázkov AI. Luccioni pre publikáciu povedal, že systémy, ako je súbor údajov LAION, pravdepodobne zaznamenajú 90 % obrázkov súvisiacich s výzvou a použijú ich na generátor obrázkov.
Odporúčania redaktorov
- Nová funkcia oddialenia Midjourney sa stáva ďalšou veľkou senzáciou AI
- Tento nový nástroj Photoshopu môže do vašich obrázkov vniesť mágiu AI
- 5 vecí, s ktorými generátory obrázkov AI stále zápasia
- Nová aplikácia Microsoft Designer zjednodušuje generatívnu AI
- Elon Musk zakladá projekt generatívnej AI na Twitteri, tvrdí správa
Zlepšite svoj životný štýlDigitálne trendy pomáhajú čitateľom mať prehľad o rýchlo sa rozvíjajúcom svete technológií so všetkými najnovšími správami, zábavnými recenziami produktov, užitočnými úvodníkmi a jedinečnými ukážkami.
