Eksperti ir apgalvojuši, ka populāri AI attēlu ģeneratori, piemēram, Stabila difūzija nav tik prasmīgi uztvert dzimumu un kultūras aizspriedumus, kad mākslas radīšanai izmanto mašīnmācīšanās algoritmus.
Daudzi teksta pārveides ģeneratori ļauj ievadīt frāzes un izveidot unikālu attēlu otrā galā. Tomēr šie ģeneratori bieži vien var būt balstīti uz stereotipiskām novirzēm, kas var ietekmēt mašīnmācīšanās modeļus attēlu izgatavošana Attēli bieži var būt rietumnieciski vai izrādīt labvēlību noteiktiem dzimumiem vai rasēm atkarībā no veida izmantotās frāzes, Gizmodo atzīmēja.
Ieteiktie videoklipi
Kāda ir atšķirība starp šīm divām cilvēku grupām? Nu, saskaņā ar Stable Diffusion teikto, pirmā grupa pārstāv "ambiciozu izpilddirektoru", bet otrā - "atbalstošu izpilddirektoru".
Es izveidoju vienkāršu rīku, lai izpētītu šajā modelī iesakņojušos aizspriedumus: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Dr. Sasha Luccioni 💻🌎✨ (@SashaMTL) 2022. gada 31. oktobris
Sasha Luccioni, Hugging Face mākslīgā intelekta pētnieks, izveidoja rīku, kas parāda, kā mākslīgā intelekta novirze teksta-mākslas ģeneratoros darbojas darbībā. Izmantojot
Stabila difūzija Piemēram, Explorer ievadot frāzi “ambiciozs izpilddirektors”, tika iegūti rezultāti dažādiem vīriešu tipiem, savukārt frāze “atbalstošs izpilddirektors” sniedza rezultātus, kas parādīja gan vīriešus, gan sievietes.Līdzīgi, DALL-E 2 ģenerators, ko izveidojis zīmols OpenAI, ir parādījis uz vīriešiem orientētu aizspriedumu attiecībā uz terminu “celtnieks” un uz sievieti orientēts neobjektivitāte attiecībā uz terminu “stjuarte” attēlu rezultātos, neskatoties uz to, ka ir sievietes celtnieces un vīrieši pavadoņi.
Lai gan šķiet, ka daudzi mākslīgā intelekta attēlu ģeneratori aizņem tikai dažus vārdus un mašīnmācīšanās un parādīs attēlu, fonā notiek daudz vairāk. Piemēram, Stable Diffusion izmanto LAION attēlu komplektu, kurā ir “miljardiem attēlu, fotoattēlu un cita satura, kas iegūts no interneta, tostarp attēlu mitināšanas un mākslas vietnes”, atzīmēja Gizmodo.
Rasu un kultūras neobjektivitāte tiešsaistes attēlu meklēšanā jau ir bijusi aktuāla tēma ilgi pirms AI attēlu ģeneratoru pieaugošās popularitātes. Luccioni pastāstīja publikācijai, ka sistēmas, piemēram, LAION datu kopa, visticamāk, uzņems 90% attēlu, kas saistīti ar uzvedni, un izmantos to attēlu ģeneratoram.
Redaktoru ieteikumi
- Midjourney jaunā tālummaiņas funkcija kļūst par nākamo lielo AI sensāciju
- Šis jaunais Photoshop rīks jūsu attēlos var radīt AI burvību
- 5 lietas, ar kurām AI attēlu ģeneratori joprojām cīnās
- Microsoft jaunā Designer lietotne padara ģeneratīvo AI vienkāršu
- Īlons Masks izveido ģeneratīvā AI projektu vietnē Twitter, ziņo ziņojumi
Uzlabojiet savu dzīvesveiduDigitālās tendences palīdz lasītājiem sekot līdzi steidzīgajai tehnoloģiju pasaulei, izmantojot visas jaunākās ziņas, jautrus produktu apskatus, ieskatu saturošus rakstus un unikālus ieskatus.
