Strokovnjaki so trdili, da priljubljeni generatorji slik AI, kot je npr Stabilna difuzija niso tako spretni pri zaznavanju spolnih in kulturnih pristranskosti pri uporabi algoritmov strojnega učenja za ustvarjanje umetnosti.
Številni generatorji besedila v umetnost vam omogočajo vnašanje fraz in osnutek edinstvene slike na drugi strani. Vendar lahko ti generatorji pogosto temeljijo na stereotipnih pristranskostih, ki lahko vplivajo na modeliranje strojnega učenja Slike so lahko pogosto zahodnjaške ali naklonjene določenim spolom ali rasam, odvisno od vrste uporabljene fraze, Gizmodo opozoriti.
Priporočeni videoposnetki
Kakšna je razlika med tema dvema skupinama ljudi? No, glede na Stable Diffusion prva skupina predstavlja 'ambicioznega CEO', druga pa 'podpornega CEO'.
Naredil sem preprosto orodje za raziskovanje pristranskosti, zakoreninjenih v tem modelu: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Dr. Sasha Luccioni 💻🌎✨ (@SashaMTL) 31. oktober 2022
Sasha Luccioni, raziskovalka umetne inteligence za Hugging Face, je ustvarila orodje, ki prikazuje, kako deluje pristranskost AI v generatorjih besedila v umetnost. Uporabljati
Stabilna difuzija Raziskovalec je na primer z vnosom besedne zveze »ambiciozen izvršni direktor« pridobil rezultate za različne tipe moških, medtem ko je fraza »podporni izvršni direktor« dala rezultate, ki so pokazali tako moške kot ženske.Podobno je Generator DALL-E 2, ki ga je ustvarila blagovna znamka OpenAI, je pokazala pristranskost, osredotočeno na moške, za izraz "graditelj" in na ženske pristranskosti za izraz "stevardesa" v rezultatih slik, kljub temu, da obstajajo ženske graditeljice in moški letalci spremljevalci.
Medtem ko se zdi, da številni generatorji slik z umetno inteligenco vzamejo le nekaj besed in strojno učenje prikaže sliko, se v ozadju dogaja veliko več. Stable Diffusion, na primer, uporablja nabor slik LAION, ki gosti "milijarde slik, fotografij in še več, postrganih iz interneta, vključno s spletnimi mesti za gostovanje slik in umetniškimi mesti", je opozoril Gizmodo.
Rasna in kulturna pristranskost pri spletnem iskanju slik je bila stalna tema že dolgo pred vse večjo priljubljenostjo generatorjev slik z umetno inteligenco. Luccioni je za publikacijo povedal, da sistemi, kot je nabor podatkov LAION, verjetno zaznajo 90 % slik, povezanih s pozivom, in jih uporabijo za generator slik.
Priporočila urednikov
- Midjourneyjeva nova funkcija pomanjšave postaja naslednja velika senzacija AI
- To novo orodje Photoshop bi lahko vašim slikam prineslo čarobnost AI
- 5 stvari, s katerimi se generatorji slik z umetno inteligenco še vedno spopadajo
- Microsoftova nova aplikacija Designer naredi generativno umetno inteligenco povsem preprosto
- Elon Musk vzpostavlja projekt generativne umetne inteligence na Twitterju, trdi poročilo
Nadgradite svoj življenjski slogDigitalni trendi bralcem pomagajo slediti hitremu svetu tehnologije z vsemi najnovejšimi novicami, zabavnimi ocenami izdelkov, pronicljivimi uvodniki in enkratnimi vpogledi v vsebine.
