Amazon bi se možda želio vratiti na ploču za crtanje za ovaj. Alat za prepoznavanje lica koji maloprodajni div trenutačno nudi razvojnim programerima prava greška u testu koji je provela Američka unija za građanske slobode (ACLU), izvještava The New York Times. Umjesto da identificira 28 članova Kongresa kao članove zakonodavne vlasti zemlje, alat je umjesto toga klasificirao te pojedince kao policijske osumnjičenike. Da stvar bude gora, nerazmjeran broj afroameričkih i latinoameričkih članova Kongresa bio je netočan identificirali, postavljajući pitanja koliko je rasno profiliranje ugrađeno čak iu naše strojno učenje softver.
Sada, Kongres želi odgovore. Petorica krivo identificiranih zastupnika zahtijevaju "odmah" sastanak s izvršnim direktorom Amazona Jeffom Bezosom. U četvrtak, 26. srpnja, Rep. Jimmy Gomez, John Lewis, Luis Gutierrez i Mark DeSaulnier, kao i Sen. Edward Markey, poslao je pisma online maloprodajnom divu pitajući zašto nisu usklađeni. Ali osim osobnih učinaka ovih slučajeva pogrešnog identiteta, kongresmeni traže odgovori na pitanje „kako riješiti nedostatke ove tehnologije kako bi se spriječili netočni ishodi.”
Preporučeni videozapisi
Amazon još nije naznačio hoće li njegov izvršni direktor prihvatiti ove sastanke.
U posebnoj izjavi, zam. G.K. Butterfield je primijetio: "Brine me netočni rezultati povezani s ovom tehnologijom, budući da postoje jasne slijepe točke koje će imati neželjene posljedice posebno za ljude boja. Iako bi ova tehnologija mogla imati dalekosežni ekonomski potencijal, potičem Amazon da bolje obučava svoje korisnike o najboljim praksama za korištenje ove tehnologije. tehnologiju, budite otvoreni i iskreni u vezi s njezinim ograničenjima i zaposlite više zaposlenika u boji koji mogu ispravno pomoći u rješavanju nedostataka ove tehnologija."
Povezano
- Članovi Amazon Prime mogu zatražiti besplatan paket šarenih Destiny 2 egzotika
- Vlasnici malih tvrtki pozivaju Kongres da ispeče Amazonovog Bezosa
- Amazon zabranjuje policiji korištenje tehnologije prepoznavanja lica Rekognition na godinu dana
Među pogrešno identificiranim zastupnicima bili su predstavnici John Lewis i Bobby Rush, obojica su poznati borci za građanska prava i članovi crnačkog kluba u Kongresu. Ali umjesto da budu priznati kao izabrani predstavnici, ova su dvojica (zajedno s još 26) lažno označena kao kriminalci. Ove su se pogreške dogodile kada je ACLU uzeo Amazonov softver za analizu slika svih članova Kongresa u odnosu na bazu podataka od 25 000 javno dostupnih fotografija. To je dovelo do toga da je 28 članova Kongresa netočno identificirano kao prekršitelji zakona, što predstavlja stopu pogreške od 5 posto.
"Ovaj test potvrđuje da je prepoznavanje lica manjkavo, pristrano i opasno", rekao je za The New York Times Jacob Snow, odvjetnik za tehnologiju i građanske slobode pri ACLU-u Sjeverne Kalifornije.
Kao odgovor na test, Nina Lindsey, glasnogovornica Amazon Web Servicesa, rekla je da je ACLU koristio alat za usklađivanje lica (tzv. Amazon Rekognition) drugačije od Amazonovih preporuka. “Vrijedi napomenuti da se u scenarijima stvarnog svijeta Amazon Rekognition gotovo isključivo koristi za sužavanje polje i dopustiti ljudima da ekspeditivno pregledaju i razmotre opcije koristeći svoju prosudbu,” rekla je Lindsey u izjava.
Nadalje je istaknula da je ACLU zadržao "prag pouzdanosti" alata na zadanih 80 posto. To znači da je grupa uzela u obzir svako lice koje se podudara kao 80 posto slično policijskoj bazi podataka. Međutim, vrijedi istaknuti da Amazon koristi isti prag u primjeru na svojoj web stranici, pokazujući kako se lica zaposlenika mogu uskladiti s njihovim ID značkama. Lindsey je rekla da u slučaju policijskih odjela Amazon preporučuje uvođenje praga od 95 posto sličnosti kako bi se izbjegle takve vrste pogrešaka.
Amazon je ranije bio na meti kritika zbog prodaje Rekognitiona. U svibnju su 24 skupine za građanske slobode, predvođene ACLU-om, napisale pismo izvršnom direktoru Amazona Jeffu Bezosu tražeći da se softver prestane prodavati agencijama za provođenje zakona. Grupe su izrazile zabrinutost da bi se softver mogao koristiti za nadzor prosvjednika, imigranata ili općenito članova javnosti, a ne samo policijskih osumnjičenika. Amazonovi zaposlenici, investitori i akademici od tada postavljaju slične zahtjeve Amazonu.
Međutim, za sada se čini da to nije u planu za web diva. Kao što je glasnogovornik Amazona rekao: "I dalje smo uzbuđeni zbog toga kako analiza slike i videa može biti pokretač dobra u svijetu."
Ažurirano 27. srpnja: Kongres od Amazona traži odgovore u vezi s pogreškama koje je napravio njegov softver Rekognition.
Preporuke urednika
- Joj! Neki članovi Amazon Primea suočavaju se s povećanjem cijene od 43%.
- Kako gledati izvršne direktore Facebooka, Googlea, Amazona i Applea kako svjedoče Kongresu
- Amazon, Apple, Facebook i Google svjedočit će pred Kongresom u srpnju
- Sen. Josh Hawley poziva na kaznenu antimonopolsku istragu Amazona
- Prepoznavanje lica američke vojske moglo bi identificirati ljude s udaljenosti od 1 km
Nadogradite svoj životni stilDigitalni trendovi pomažu čitateljima da prate brzi svijet tehnologije sa svim najnovijim vijestima, zabavnim recenzijama proizvoda, pronicljivim uvodnicima i jedinstvenim brzim pregledima.
