Tačiau gali būti pataisyta arba bent jau būdas stebėti algoritmus ir pasakyti, ar jie netinkamai diskriminavo demografinius rodiklius.
Rekomenduojami vaizdo įrašai
"Išmoktos prognozavimo taisyklės dažnai yra per sudėtingos, kad jas suprastų."
Pasiūlė kompiuterių mokslininkų komanda iš Google, Čikagos universiteto ir Teksaso universiteto Ostine. Galimybių lygybė prižiūrimo mokymosi metu Šis metodas analizuoja mašininio mokymosi programų priimtus sprendimus, o ne pačius sprendimų priėmimo procesus, kad nustatytų diskriminaciją. Šių algoritmų prigimtis yra priimti sprendimus savarankiškai, vadovaujantis savo logika, juodoje dėžėje, paslėptoje nuo žmogaus peržiūros. Tyrėjai mano, kad prieiga prie juodųjų dėžių yra praktiškai beprasmiška.
„Išmoktos numatymo taisyklės dažnai yra per sudėtingos, kad jas suprastų“, – sakė Čikagos universiteto kompiuterių mokslininkas ir bendraautoris. Natanas Srebro, pasakojo „Digital Trends“. „Iš tiesų, visa mašininio mokymosi esmė yra automatiškai išmokti [statistiškai] gerą taisyklę, o ne tokią, kurios aprašymas būtinai turi prasmę žmonėms. Turėdami omenyje šį požiūrį į mokymąsi, taip pat norėjome užtikrinti nediskriminavimo jausmą, o išmoktas taisykles vis dar traktuodami kaip juodąsias dėžes.
Srebro ir bendraautoriai Moritzas Hardtas Google ir Erikas Kainas UT Austin sukūrė metodą, leidžiantį analizuoti algoritmo sprendimus ir užtikrinti, kad sprendimų priėmimo procese jis nebūtų diskriminuojamas. Norėdami tai padaryti, jie vadovavosi antiprejudiciniu principu, kad sprendimas dėl konkretaus asmens neturėtų būti grindžiamas tik to asmens demografine padėtimi. Dirbtinio intelekto programos atveju algoritmo sprendimas dėl asmens neturėtų atskleisti nieko apie to asmens lytį ar rasę taip, kad tai būtų netinkamai diskriminuojanti.
Tai testas, kuris nesprendžia problemos tiesiogiai, bet padeda pažymėti diskriminacinius procesus ir užkirsti jiems kelią. Dėl šios priežasties kai kurie tyrinėtojai yra atsargūs.
„Mašininis mokymasis yra puikus, jei jį naudojate, kad išsiaiškintumėte geriausią naftotiekio tiesimo būdą. Noelis Šarkis, Šefildo universiteto robotikos ir dirbtinio intelekto profesorius emeritas Globėjas. „Kol nesužinosime daugiau apie tai, kaip juose veikia šališkumas, man labai rūpi, kad jie prognozuotų žmonių gyvenimus.
Srebro pripažįsta šį susirūpinimą, bet nemano, kad tai yra didžiulė jo komandos požiūrio kritika. „Sutinku, kad daugelyje paraiškų, turinčių didelį poveikį asmenims, ypač vyriausybės ir teisminės institucijos, juodosios dėžės statistinių prognozių naudojimas nėra tinkamas, o skaidrumas yra gyvybiškai svarbus. jis pasakė. „Kitais atvejais, kai juos naudoja komerciniai subjektai ir kai atskiri akcijų paketai yra mažesni, juodosios dėžės statistiniai prognozės gali būti tinkami ir veiksmingi. Gali būti sunku juos visiškai uždrausti, bet vis tiek pageidautina kontroliuoti, ar nėra konkrečios saugomos diskriminacijos.
The referatas apie Lygių galimybių prižiūrėtame mokyme buvo vienas iš tų, kurie šį mėnesį buvo pristatyti Neuroninės informacijos apdorojimo sistemose (NIPS) Barselonoje, Ispanijoje, kuri pasiūlė būdus, kaip aptikti diskriminaciją algoritmuose. Globėjas.
Redaktorių rekomendacijos
- „Google Bard“ netrukus gali tapti jūsų naujuoju AI gyvenimo treneriu
- Naujoji Elono Musko dirbtinio intelekto įmonė siekia „suprasti visatą“
- Visas internetas dabar priklauso „Google“ AI
- „Google“ ragina darbuotojus saugotis AI pokalbių robotų
- Kas yra MusicLM? Peržiūrėkite „Google“ teksto į muziką AI
Atnaujinkite savo gyvenimo būdąSkaitmeninės tendencijos padeda skaitytojams stebėti sparčiai besivystantį technologijų pasaulį – pateikiamos visos naujausios naujienos, smagios produktų apžvalgos, įžvalgūs vedamieji leidiniai ir unikalūs žvilgsniai.
