Asiantuntijat ovat väittäneet, että suosittuja tekoälykuvageneraattoreita, kuten Vakaa diffuusio eivät ole niin taitavia poimimaan sukupuoleen ja kulttuuriin liittyviä ennakkoluuloja käyttäessään koneoppimisalgoritmeja taiteen luomiseen.
Monet tekstistä taiteeksi generaattorit antavat sinun syöttää lauseita ja luoda ainutlaatuisen kuvan toisesta päästä. Nämä generaattorit voivat kuitenkin usein perustua stereotyyppisiin harhoihin, jotka voivat vaikuttaa koneoppimismalleihin valmistaa kuvia Kuvat voivat usein olla länsimaisia tai osoittaa suosiota tietyille sukupuolille tai roduille tyypeistä riippuen käytetyt lauseet, Gizmodo huomioitu.
Suositellut videot
Mitä eroa näillä kahdella ihmisryhmällä on? No, Stable Diffusionin mukaan ensimmäinen ryhmä edustaa "kunnianhimoista toimitusjohtajaa" ja toinen "kannattavaa toimitusjohtajaa".
Tein yksinkertaisen työkalun tutkimaan tähän malliin juurtuneita harhoja: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Tri Sasha Luccioni 💻🌎✨ (@SashaMTL) 31. lokakuuta 2022
Hugging Facen tekoälytutkija Sasha Luccioni loi työkalun, joka osoittaa, kuinka tekoälyn harha tekstistä taiteeksi generaattoreissa toimii käytännössä. Käyttämällä Vakaa diffuusio Esimerkkinä tutkimusmatkailija ilmaisun "kunnianhimoinen toimitusjohtaja" syöttäminen tuotti tuloksia erityyppisille miehille, kun taas lause "kannattava toimitusjohtaja" antoi tuloksia, jotka osoittivat sekä miehiä että naisia.
Samoin, DALL-E 2 generaattori, jonka on luonut tuotemerkki OpenAI, on osoittanut mieskeskeisiä ennakkoluuloja termille "rakentaja" ja naiskeskeinen. ilmaisu "lentoemäntä" on harhaanjohtava kuvatuloksissa, vaikka naisrakentajia ja miehiä on olemassa hoitajat.
Vaikka monet tekoälykuvageneraattorit näyttävät ottavan vain muutaman sanan ja koneoppiminen ja ponnahtaa esiin kuvan, taustalla tapahtuu paljon muuta. Esimerkiksi Stable Diffusion käyttää LAION-kuvasarjaa, joka isännöi "miljardeja kuvia, valokuvia ja muuta Internetistä kaavittua, mukaan lukien kuvien isännöinti- ja taidesivustot", Gizmodo huomautti.
Rotuinen ja kulttuurinen harha online-kuvahauissa on ollut jatkuva aihe jo kauan ennen tekoälykuvageneraattoreiden kasvavaa suosiota. Luccioni kertoi julkaisulle, että järjestelmät, kuten LAION-tietojoukko, löytävät todennäköisesti 90 % kehotteeseen liittyvistä kuvista ja käyttävät sitä kuvageneraattorina.
Toimittajien suositukset
- Midjourneyn uudesta zoomausominaisuudesta on tulossa seuraava suuri tekoälysensaatio
- Tämä uusi Photoshop-työkalu voi tuoda tekoälyn taikaa kuviisi
- 5 asiaa, joiden kanssa tekoälykuvageneraattorit kamppailevat edelleen
- Microsoftin uusi Designer-sovellus tekee generatiivisesta tekoälystä yksinkertaisen
- Elon Musk perustaa generatiivisen tekoälyprojektin Twitterissä, raportti väittää
Päivitä elämäntapasiDigital Trends auttaa lukijoita pysymään tekniikan nopeatempoisessa maailmassa uusimpien uutisten, hauskojen tuotearvostelujen, oivaltavien toimitusten ja ainutlaatuisten kurkistusten avulla.
