Amazon võib soovida selle jaoks joonestuslauale tagasi pöörduda. Näotuvastustööriist, mida jaemüügihiiglane praegu arendajatele pakub päris viga Ameerika kodanikuvabaduste liidu (ACLU) korraldatud testis, vahendab The New York Times. Selle asemel, et tuvastada 28 Kongressi liiget riigi seadusandliku haru liikmetena, klassifitseeris tööriist need isikud politseis kahtlustatavateks. Asja teeb veelgi hullemaks see, et ebaproportsionaalselt suur arv afroameeriklastest ja ladina-ameeriklastest kongressi liikmeid olid valesti tuvastatud, tekitades küsimusi selle kohta, kui kaugele on rassiline profiilide koostamine isegi meie masinõppes juurdunud tarkvara.
Nüüd soovib Kongress vastuseid. Viis valesti tuvastatud seadusandjat taotlevad "viivitamatut" kohtumist Amazoni tegevjuhi Jeff Bezosega. Neljapäeval, 26. juulil toimus Reps. Jimmy Gomez, John Lewis, Luis Gutierrez ja Mark DeSaulnier, samuti Sen. Edward Markey saatis Interneti-jaemüügihiiule kirju, küsides, miks need ei sobi. Kuid lisaks nende eksliku identiteedi juhtumite isiklikele tagajärgedele nõuavad kongresmenid seda vastused küsimusele „kuidas kõrvaldada selle tehnoloogia puudused, et vältida ebatäpseid tulemused."
Soovitatavad videod
Amazon pole veel teatanud, kas selle tegevjuht nõustub need kohtumised.
Eraldi avalduses teatas Rep. G.K. Butterfield märkis: "Olen mures selle tehnoloogiaga seotud ebatäpsete tulemuste pärast, kuna on selgeid pimealasid, millel on soovimatud tagajärjed konkreetselt inimestele värvi. Kuigi sellel tehnoloogial võib olla kaugeleulatuv majanduslik potentsiaal, julgustan Amazonit paremini koolitama oma kasutajaid selle kasutamise parimate tavade kohta. tehnoloogiat, olge avatud ja otsekohene selle piirangute suhtes ning palkage rohkem värvilisi töötajaid, kes suudavad aidata selle puuduste kõrvaldamisel. tehnoloogia."
Seotud
- Amazon Prime'i liikmed saavad hankida tasuta paki värvilisi Destiny 2 eksootikat
- Väikeettevõtete omanikud kutsuvad Kongressi üles grillima Amazoni Bezos
- Amazon keelab politseil kasutada näotuvastustehnoloogiat Rekognition 1 aastaks
Valesti tuvastatud seadusandjate hulgas oli Reps. John Lewis ja Bobby Rush, kes mõlemad on tuntud kodanikuõiguste liidrid ja Kongressi mustade kaadrikoosseisu liikmed. Kuid selle asemel, et neid tunnistati valitud esindajateks, märgiti need kaks meest (koos 26 teisega) ekslikult kurjategijateks. Need vead ilmnesid siis, kui ACLU kasutas Amazoni tarkvara, et analüüsida kõigi Kongressi liikmete pilte 25 000 avalikult juurdepääsetava pildiga andmebaasi põhjal. Selle tulemusel tunnistati 28 kongressi liiget valesti seaduserikkujateks, mis tähendab 5-protsendilist veamäära.
"See test kinnitab, et näotuvastus on vigane, kallutatud ja ohtlik," ütles Põhja-California ACLU tehnoloogia- ja kodanikuvabaduste advokaat Jacob Snow ajalehele The New York Times.
Amazon Web Servicesi pressiesindaja Nina Lindsey ütles vastuseks testile, et ACLU kasutas näo sobitamise tööriista (nn. Amazoni äratundmine) erinevalt Amazoni soovitustest. "Väärib märkimist, et reaalsetes stsenaariumides kasutatakse Amazon Rekognitioni peaaegu eranditult selleks, et aidata valdkonnas ja võimaldada inimestel oma otsuseid kasutades kiiresti üle vaadata ja kaaluda võimalusi, ”ütles Lindsey a avaldus.
Lisaks märkis ta, et ACLU hoidis tööriista "usaldusläve" vaikeväärtusena 80 protsenti. See tähendab, et rühm võttis arvesse mis tahes nägu, mis oli 80 protsenti sarnane politsei andmebaasiga. Siiski väärib märkimist, et Amazon kasutab oma veebisaidil olevas näites sama läve, näidates, kuidas töötajate nägusid saab sobitada nende ID-märkidega. Lindsey ütles, et politseiosakondade puhul soovitab Amazon selliste vigade vältimiseks rakendada 95-protsendilise sarnasuse läve.
Amazon on varem sattunud kriitika alla Rekognitioni müümise pärast. Mais kirjutasid 24 kodanikuvabaduste rühma eesotsas ACLUga Amazoni tegevjuhile Jeff Bezosele kirja, milles nõudsid, et tarkvara müümine õiguskaitseorganitele lõpetataks. Rühmad väljendasid muret, et tarkvara võidakse kasutada meeleavaldajate, immigrantide või üldsuse, mitte ainult politseis kahtlustatavate isikute jälgimiseks. Amazoni töötajad, investorid ja akadeemikud on sellest ajast alates Amazonile sarnaseid nõudmisi esitanud.
Praegu aga ei paista seda veebihiiglase kaartides olevat. Nagu Amazoni pressiesindaja ütles: "Oleme jätkuvalt põnevil, kuidas pildi- ja videoanalüüs võivad olla maailma hüvanguks."
Värskendatud 27. juulil: Kongress nõuab Amazonilt vastuseid oma Rekognitioni tarkvara tehtud vigade kohta.
Toimetajate soovitused
- Oeh! Mõned Amazon Prime'i liikmed seisavad silmitsi 43% hinnatõusuga
- Kuidas vaadata, kuidas Facebooki, Google'i, Amazoni ja Apple'i tegevjuhid kongressile tunnistavad
- Amazon, Apple, Facebook ja Google annavad juulis kongressi ees tunnistusi
- Sen. Josh Hawley nõuab Amazoni monopolivastast kriminaaluurimist
- USA sõjaväe näotuvastus suudab tuvastada inimesi 1 km kaugusel
Uuenda oma elustiiliDigitaalsed suundumused aitavad lugejatel hoida silma peal kiirel tehnikamaailmal kõigi viimaste uudiste, lõbusate tooteülevaadete, sisukate juhtkirjade ja ainulaadsete lühiülevaadetega.
