Vaš izbrani glasovni pomočnik ima verjetno ženski glas. Čeprav morda ne razmišljate veliko o tem, Organizacija Združenih narodov za izobraževanje, znanost in kulturo (UNESCO) meni, da bi pomočniki, ki jih poganja Umetna inteligenca, lahko krepiti negativne stereotipe o spolu, hkrati pa ne uspe ustrezno zavrniti nasilnega in žaljivega jezika, kar vodi do nekaterih potencialno škodljivih rezultatov.
V prispevku z naslovom »Pordel bi, če bi lahko,« so raziskovalci z Unesca raziskali nekatere implicitne pristranskosti, ki se pojavljajo pri raziskavah umetne inteligence. Avtorji prispevka to predlagajo tako, da glasovnim pomočnikom podelijo tradicionalno ženska imena in jih dodelijo privzeto ženski glasovi, so podjetja nenamerno okrepila negativne in regresivne predstave o ženske. Postavlja jih kot podrejene in v vlogo, kjer se od njih pričakuje, da naredijo, kar se od njih zahteva.
Priporočeni videoposnetki
Poleg tega je dokument preučil, kako se glasovni pomočniki odzovejo, ko so predstavljeni z žaljivim jezikom. Kar so našli, je A.I. odvrne takšne pripombe, namesto da bi kakor koli ukrepal, da bi jih odvrnil. Če uporabnik grozi glasovnemu pomočniku, ta pogosto ustvari neumno šalo ali zaničevalno sporočilo. Raziskovalci pri Unescu verjamejo, da bi tehnološka podjetja morala v te sisteme vgraditi zaščitne ukrepe, ki bi pomagali zmanjšati žaljiv jezik, usmerjen proti ženskim glasovom. Raziskovalci verjamejo, da podjetja, če tega ne storijo, tvegajo normalizacijo vedenja, kot je nasilna grožnja ženskam.
Povezano
- Kako svojim staršem prodati pametnega pomočnika
- Ali vam lahko vaš pametni dom prihrani denar pri zavarovanju lastnikov stanovanj?
- Zaradi aplikacije je Breville Joule Oven Air Fryer Pro resnično pameten
Po mnenju Unesca je del te težave ta, da ima večina tehnoloških podjetij inženirske ekipe, ki jih v veliki meri sestavljajo moški. Ker verjetno nimajo neposrednih izkušenj s tovrstnim jezikom, ki je namenjen njim, niti niso bili žrtve te vrste negativnih stereotipov in zastarelih spolnih vlog, s katerimi se ukvarjajo ženske, ni nujno, da razmišljajo o teh stvareh, ko oblikujejo A.I. sistemi.
»Podjetja, kot sta Apple in Amazon, v katerih delajo pretežno moške inženirske ekipe, so zgradila A.I. sistemov, ki povzročajo njihove feminizirani digitalni pomočniki, ki pozdravijo verbalno zlorabo s spogledovanjem tipa "ujemi me, če me lahko", pišejo raziskovalci v svojem poročilo. »Ker je govor večine glasovnih pomočnikov ženski, pošilja signal, da so ženske … poslušne in željni ugoditi pomočniki, ki so na voljo s pritiskom na gumb ali z odkritim glasovnim ukazom, kot je "hej" ali 'V REDU'. Pomočnik nima nobene pristojnosti, ki presega tisto, kar od njega zahteva poveljnik. Spoštuje ukaze in se odziva na vprašanja ne glede na njihov ton ali sovražnost.«
UNESCO verjame, da je najboljša rešitev problema ustvariti a spolno nevtralen glas da je A.I. lahko uporabljajo pomočniki. Organizacija tudi predlaga vgradnjo odzivov in sistemov, ki bi zaprli in odvrnili od agresivnega in nasilnega jezika ter žalitev. Raziskovalci verjamejo, da bi tehnološka podjetja morala tudi prenehati postavljati glasovne pomočnike kot podrejene ljudi, da bi se izognili širjenju škodljivih stereotipov.
Priporočila urednikov
- Strokovnjaki opozarjajo, da pomočniki z umetno inteligenco škodijo socialnemu razvoju otrok
- Pregled hišnih ljubljenčkov, ki se zapletajo z Googlom in Alexo
- Novi izdelki Home Depot, združljivi s Hubspace, vključujejo pametni vtič
- Ali je izvedljivo iti all-in z enim ekosistemom pametnega doma?
- Google Home (Nest Audio) vs. Amazon Echo
Nadgradite svoj življenjski slogDigitalni trendi bralcem pomagajo slediti hitremu svetu tehnologije z vsemi najnovejšimi novicami, zabavnimi ocenami izdelkov, pronicljivimi uvodniki in enkratnimi vpogledi v vsebine.
