Amazon saattaa haluta palata tämän piirustuspöydän ääreen. Vähittäiskaupan jättiläinen tarjoaa tällä hetkellä kehittäjille kasvojentunnistustyökalun aivan virhe American Civil Liberties Unionin (ACLU) suorittamassa testissä, The New York Times raportoi. Sen sijaan, että 28 kongressin jäsentä olisi tunnistettu maan lainsäädäntöelimen jäseniksi, työkalu luokitteli nämä henkilöt poliisin epäillyiksi. Asiaa pahensi se, että suhteettoman suuri määrä afroamerikkalaisia ja latinalaiskongressin jäseniä oli virheellisesti tunnistettu ja herättää kysymyksiä siitä, kuinka pitkälle rotuprofilointi on upotettu jopa koneoppimiseen ohjelmisto.
Nyt kongressi haluaa vastauksia. Viisi väärin tunnistetuista lainsäätäjistä pyytää "välitöntä" tapaamista Amazonin toimitusjohtajan Jeff Bezosin kanssa. Torstaina 26. heinäkuuta Reps. Jimmy Gomez, John Lewis, Luis Gutierrez ja Mark DeSaulnier sekä Sen. Edward Markey lähetti kirjeitä verkkokaupan jättiläiselle kysyen, miksi ne eivät täsmänneet. Mutta näiden virheellisen identiteetin tapausten henkilökohtaisten vaikutusten lisäksi kongressiedustajat pyytävät vastaukset kysymykseen "miten korjata tämän tekniikan viat, jotta vältetään epätarkat tuloksia."
Suositellut videot
Amazon ei ole vielä ilmoittanut, hyväksyykö sen toimitusjohtaja nämä tapaamiset.
Erillisessä lausunnossaan Rep. G.K. Butterfield totesi: "Olen huolissani tähän teknologiaan liittyvistä epätarkoista tuloksista, koska on selkeitä sokeita kulmia, joilla on tahattomia seurauksia erityisesti ihmisille väri. Vaikka tällä tekniikalla voi olla kauaskantoisia taloudellisia mahdollisuuksia, rohkaisen Amazonia kouluttamaan käyttäjiään paremmin tämän käytön parhaisiin käytäntöihin. teknologiaa, ole avoin ja ennakkoluuloinen sen rajoituksista ja palkkaa lisää värikkäitä työntekijöitä, jotka voivat asianmukaisesti auttaa korjaamaan tämän puutteet. tekniikkaa.”
Liittyvät
- Amazon Prime -jäsenet voivat lunastaa ilmaisen paketin värikkäitä Destiny 2 -eksotiikkaa
- Pienyritysten omistajat vaativat kongressia grillaamaan Amazonin Bezosia
- Amazon kieltää poliisia käyttämästä kasvojentunnistustekniikkaa Rekognition vuodeksi
Väärin tunnistettujen lainsäätäjien joukossa olivat edustajat. John Lewis ja Bobby Rush, jotka molemmat ovat tunnettuja kansalaisoikeusjohtajia ja kongressin Black Caucuksen jäseniä. Mutta sen sijaan, että heidät tunnustettaisiin valituiksi edustajiksi, nämä kaksi miestä (yhdessä 26 muun kanssa) merkittiin väärin rikollisiksi. Nämä virheet tapahtuivat, kun ACLU käytti Amazonin ohjelmistoa analysoimaan kaikkien kongressin jäsenten kuvia 25 000 julkisesti saatavilla olevan mugshotsin tietokannan perusteella. Tämä johti siihen, että 28 kongressin jäsentä tunnistettiin virheellisesti lainrikkojaksi, mikä edustaa 5 prosentin virhetasoa.
"Tämä testi vahvistaa, että kasvojentunnistus on virheellinen, puolueellinen ja vaarallinen", Jacob Snow, Pohjois-Kalifornian ACLU: n teknologia- ja kansalaisvapauksien lakimies, kertoi The New York Timesille.
Vastauksena testiin Amazon Web Services -palvelun tiedottaja Nina Lindsey sanoi, että ACLU käytti kasvojen täsmäystyökalua (ns. Amazon Rekognition) toisin kuin Amazonin suositukset. "On syytä huomata, että todellisissa skenaarioissa Amazon Rekognitionia käytetään lähes yksinomaan auttamaan rajaamaan kentällä ja antaa ihmisten tarkastella ja harkita vaihtoehtoja nopeasti harkintansa mukaan", Lindsey sanoi a lausunto.
Hän huomautti lisäksi, että ACLU piti työkalun "luottamuskynnyksen" oletusarvossa 80 prosenttia. Tämä tarkoittaa, että ryhmä otti huomioon kaikki kasvot, jotka olivat 80-prosenttisesti samanlaisia kuin poliisin tietokannassa. On kuitenkin syytä huomauttaa, että Amazon käyttää samaa kynnystä verkkosivuillaan olevassa esimerkissä, joka näyttää, kuinka työntekijöiden kasvot voidaan yhdistää heidän henkilötunnukseensa. Lindsey sanoi, että poliisilaitosten tapauksessa Amazon suosittelee 95 prosentin samankaltaisuuden kynnyksen käyttöönottoa tällaisten virheiden välttämiseksi.
Amazon on joutunut aiemmin arvostelun kohteeksi Rekognitionin myymisestä. Toukokuussa 24 ACLU: n johtamaa kansalaisvapauksien ryhmää kirjoitti Amazonin toimitusjohtajalle Jeff Bezosille kirjeen, jossa vaadittiin ohjelmiston myynnin lopettamista lainvalvontaviranomaisille. Ryhmät ilmaisivat huolensa siitä, että ohjelmistoa voitaisiin käyttää mielenosoittajien, maahanmuuttajien tai suuren yleisön tarkkailuun poliisin epäiltyjen sijaan. Amazonin työntekijät, sijoittajat ja tutkijat ovat sittemmin esittäneet samanlaisia vaatimuksia Amazonille.
Toistaiseksi se ei kuitenkaan näytä olevan verkkojättiläisen korteissa. Kuten Amazonin tiedottaja sanoi: "Olemme edelleen innoissamme siitä, kuinka kuva- ja videoanalyysit voivat olla hyvän tekijä maailmassa."
Päivitetty 27. heinäkuuta: Kongressi vaatii Amazonilta vastauksia Rekognition-ohjelmiston tekemiin virheisiin.
Toimittajien suositukset
- Auts! Jotkut Amazon Prime -jäsenet kohtaavat 43 prosentin hinnannousun
- Kuinka katsella Facebookin, Googlen, Amazonin ja Applen toimitusjohtajien todistavan kongressille
- Amazon, Apple, Facebook ja Google todistavat kongressille heinäkuussa
- Sen. Josh Hawley vaatii rikosoikeudellista kartellitutkintaa Amazonille
- Yhdysvaltain armeijan kasvontunnistus voisi tunnistaa ihmiset kilometrin etäisyydeltä
Päivitä elämäntapasiDigital Trends auttaa lukijoita pysymään tekniikan nopeatempoisessa maailmassa uusimpien uutisten, hauskojen tuotearvostelujen, oivaltavien toimitusten ja ainutlaatuisten kurkistusten avulla.
