Amazon vil kanskje gå tilbake til tegnebrettet for denne. Et ansiktsgjenkjenningsverktøy som detaljhandelsgiganten for tiden tilbyr utviklere laget ganske feil i en test utført av American Civil Liberties Union (ACLU), melder The New York Times. I stedet for å identifisere 28 medlemmer av kongressen som medlemmer av landets lovgivende gren, klassifiserte verktøyet i stedet disse personene som politimistenkte. For å gjøre vondt verre, var et uforholdsmessig antall afroamerikanske og latinamerikanske kongressmedlemmer feilaktig identifisert, og reiser spørsmål om hvor langt raseprofilering har innebygd seg selv i maskinlæringen vår programvare.
Nå vil kongressen ha svar. Fem av de feilidentifiserte lovgiverne ber om et "umiddelbart" møte med Amazon-sjef Jeff Bezos. Torsdag 26. juli, reps. Jimmy Gomez, John Lewis, Luis Gutierrez og Mark DeSaulnier, samt Sen. Edward Markey, sendte brev til nettbutikkgiganten og spurte hvorfor de ikke ble matchet. Men utover de personlige effektene av disse tilfellene av feilaktig identitet, ber kongressmedlemmene om svar på "hvordan man kan løse feilene ved denne teknologien for å forhindre unøyaktige utfall."
Anbefalte videoer
Amazon har ennå ikke indikert om konsernsjefen vil godta disse møtene.
I en egen uttalelse sier rep. G.K. Butterfield bemerket: "Jeg er bekymret over de unøyaktige resultatene forbundet med denne teknologien, som det er klare blinde flekker som vil ha utilsiktede konsekvenser spesielt for folk av farge. Selv om denne teknologien kan ha et vidtrekkende økonomisk potensial, oppfordrer jeg Amazon til å bedre lære brukerne sine om beste praksis for å bruke dette teknologi, vær åpen og på forhånd om dens begrensninger, og ansett flere fargemedarbeidere som kan hjelpe til med å rette opp feilene ved dette teknologi."
I slekt
- Amazon Prime-medlemmer kan kreve en gratis pakke med fargerike Destiny 2-eksotiske ting
- Småbedriftseiere ber kongressen grille Amazons Bezos
- Amazon forbyr politiet å bruke ansiktsgjenkjenningsteknologien Rekognition i 1 år
Blant de feilidentifiserte lovgiverne var representanter. John Lewis og Bobby Rush, som begge er kjente borgerrettighetsledere og medlemmer av Congressional Black Caucus. Men i stedet for å bli anerkjent som folkevalgte, ble disse to mennene (sammen med 26 andre), falskt flagget som kriminelle. Disse feilene skjedde da ACLU tok Amazons programvare for å analysere bilder av alle medlemmer av kongressen mot en database med 25 000 offentlig tilgjengelige mugshots. Dette resulterte i at de 28 kongressmedlemmene feilaktig ble identifisert som lovbrytere, noe som representerer en feilprosent på 5 prosent.
"Denne testen bekrefter at ansiktsgjenkjenning er feil, partisk og farlig," sa Jacob Snow, en teknologi- og sivilrettighetsadvokat ved ACLU i Nord-California, til The New York Times.
Som svar på testen sa Nina Lindsey, en talskvinne for Amazon Web Services, at ACLU brukte ansiktsmatchingsverktøyet (kalt Amazon-gjenkjenning) annerledes enn Amazons anbefalinger. "Det er verdt å merke seg at i virkelige scenarier brukes Amazon Rekognition nesten utelukkende for å begrense felt og la mennesker raskt vurdere og vurdere alternativer ved å bruke deres dømmekraft," sa Lindsey i en uttalelse.
Hun påpekte videre at ACLU holdt verktøyets "tillitsterskel" på standardverdien på 80 prosent. Dette betyr at gruppen tok hensyn til ethvert ansikt matchet som 80 prosent lik politiets database. Det er imidlertid verdt å påpeke at Amazon bruker den samme terskelen i et eksempel på nettstedet sitt, som viser hvordan ansattes ansikter kan matches med ID-merkene deres. Lindsey sa at når det gjelder politiavdelinger, anbefaler Amazon at en terskel på 95 prosent likhet implementeres for å unngå denne typen feil.
Amazon har tidligere blitt kritisert for å selge Rekognition. I mai skrev 24 borgerrettighetsgrupper, ledet av ACLU, et brev til Amazons administrerende direktør Jeff Bezos og ba om at programvaren skulle slutte å selges til rettshåndhevelsesbyråer. Gruppene uttrykte bekymring for at programvaren kunne brukes til å overvåke demonstranter, innvandrere eller generelle medlemmer av offentligheten, i stedet for bare politimistenkte. Amazon-ansatte, investorer og akademikere har siden stilt lignende krav til Amazon.
Foreløpig ser det imidlertid ikke ut til å ligge i kortene for nettgiganten. Som Amazons talsperson sa: "Vi er fortsatt spente på hvordan bilde- og videoanalyse kan være en drivkraft for det gode i verden."
Oppdatert 27. juli: Kongressen krever svar fra Amazon angående feilene som er gjort av Rekognition-programvaren.
Redaktørenes anbefalinger
- Au! Noen Amazon Prime-medlemmer står overfor en prisøkning på 43 %
- Hvordan se administrerende direktører for Facebook, Google, Amazon og Apple vitne til kongressen
- Amazon, Apple, Facebook og Google vil vitne for kongressen i juli
- Sen. Josh Hawley ber om kriminell antitrust-etterforskning av Amazon
- Amerikansk militær ansiktsgjenkjenning kan identifisere personer fra 1 km unna
Oppgrader livsstilen dinDigitale trender hjelper leserne å følge med på den fartsfylte teknologiverdenen med alle de siste nyhetene, morsomme produktanmeldelser, innsiktsfulle redaksjoner og unike sniktitter.
