Odborníci tvrdili, že populární generátory obrázků AI jako např Stabilní difúze nejsou tak zběhlí v rozpoznání genderových a kulturních předsudků při používání algoritmů strojového učení k tvorbě umění.
Mnoho generátorů text-to-art vám umožňuje vkládat fráze a na druhém konci vytvořit jedinečný obrázek. Tyto generátory však mohou být často založeny na stereotypních předsudcích, které mohou ovlivnit modelování strojového učení obrazy výroby Obrazy mohou být často westernizovány nebo ukazovat přízeň určitým pohlavím nebo rasám, v závislosti na typu použité fráze, Gizmodo poznamenal.
Doporučená videa
Jaký je rozdíl mezi těmito dvěma skupinami lidí? No, podle Stable Diffusion představuje první skupina „ambiciózního generálního ředitele“ a druhá „podporujícího generálního ředitele“.
Vytvořil jsem jednoduchý nástroj k prozkoumání předsudků zakořeněných v tomto modelu: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Dr. Sasha Luccioni 💻🌎✨ (@SashaMTL) 31. října 2022
Sasha Luccioni, výzkumník umělé inteligence pro Hugging Face, vytvořil nástroj, který demonstruje, jak funguje zkreslení AI v generátorech text-to-art v akci. Za použití
Stabilní difúze Průzkumník jako příklad, který vložil frázi „ambiciózní generální ředitel“, získal výsledky pro různé typy mužů, zatímco fráze „podporující generální ředitel“ poskytla výsledky, které ukazovaly muže i ženy.Podobně, Generátor DALL-E 2, který byl vytvořen značkou OpenAI, prokázal předsudky zaměřené na muže pro výrazy „stavitel“ a zaměřené na ženy zaujatosti pro výraz „letuška“ ve výsledcích obrázků, přestože existují ženy stavitelky a mužský let obsluha.
Zatímco se zdá, že mnoho generátorů obrázků AI stačí pár slov a strojové učení a vyskočí obrázek, na pozadí se děje mnohem více. Stable Diffusion například používá sadu obrázků LAION, která obsahuje „miliardy obrázků, fotografií a dalšího obsahu staženého z internetu, včetně hostingu obrázků a uměleckých stránek,“ poznamenal Gizmodo.
Rasová a kulturní zaujatost při online vyhledávání obrázků již byla aktuálním tématem dlouho před rostoucí popularitou generátorů obrázků AI. Luccioni řekl publikaci, že systémy, jako je datová sada LAION, pravděpodobně zachytí 90 % obrázků souvisejících s výzvou a použijí je pro generátor obrázků.
Doporučení redakce
- Nová funkce oddálení Midjourney se stává další velkou senzací AI
- Tento nový nástroj Photoshopu by mohl do vašich obrázků přinést kouzlo umělé inteligence
- 5 věcí, se kterými generátory obrázků AI stále bojují
- Nová aplikace Microsoft Designer zjednodušuje generativní umělou inteligenci
- Elon Musk zakládá projekt generativní AI na Twitteru, tvrdí zpráva
Upgradujte svůj životní stylDigitální trendy pomáhají čtenářům mít přehled o rychle se měnícím světě technologií se všemi nejnovějšími zprávami, zábavnými recenzemi produktů, zasvěcenými úvodníky a jedinečnými náhledy.
