Amazon wil hiervoor misschien terug naar de tekentafel. Een gezichtsherkenningstool die de retailgigant momenteel aan ontwikkelaars aanbiedt nogal een fout Dat blijkt uit een test uitgevoerd door de American Civil Liberties Union (ACLU), zo meldt The New York Times. In plaats van 28 leden van het Congres te identificeren als leden van de wetgevende macht van het land, classificeerde de tool deze personen in plaats daarvan als verdachten van de politie. Tot overmaat van ramp had een onevenredig groot aantal Afro-Amerikaanse en Latino-congresleden ongelijk geïdentificeerd, wat vragen oproept over de mate waarin raciale profilering zich zelfs in ons machine learning heeft ingebed software.
Nu wil het Congres antwoorden. Vijf van de ten onrechte geïdentificeerde wetgevers verzoeken om een “onmiddellijke” ontmoeting met Jeff Bezos, CEO van Amazon. Op donderdag 26 juli zullen Rep. Jimmy Gomez, John Lewis, Luis Gutierrez en Mark DeSaulnier, evenals senator. Edward Markey stuurde brieven naar de online retailgigant met de vraag waarom ze niet bij elkaar pasten. Maar afgezien van de persoonlijke gevolgen van deze gevallen van identiteitsverwisseling, vragen de congresleden ook om antwoorden op de vraag “hoe de gebreken van deze technologie moeten worden aangepakt om onnauwkeurigheid te voorkomen uitkomsten.”
Aanbevolen video's
Amazon heeft nog niet aangegeven of de CEO deze bijeenkomsten zal accepteren.
In een aparte verklaring zei Rep. GK Butterfield merkte op: “Ik maak me zorgen over de onnauwkeurige resultaten die met deze technologie gepaard gaan. omdat er duidelijke blinde vlekken zijn die onbedoelde gevolgen zullen hebben, specifiek voor mensen kleur. Hoewel deze technologie een verreikend economisch potentieel zou kunnen hebben, moedig ik Amazon aan om zijn gebruikers beter te trainen in de beste praktijken voor het gebruik ervan technologie, wees open en eerlijk over de beperkingen ervan, en neem meer gekleurde werknemers aan die goed kunnen helpen bij het aanpakken van de tekortkomingen hiervan technologie."
Verwant
- Amazon Prime-leden kunnen een gratis pakket kleurrijke Destiny 2-exoten claimen
- Eigenaren van kleine bedrijven roepen het Congres op om de Bezos van Amazon te grillen
- Amazon verbiedt de politie een jaar lang gezichtsherkenningstechnologie Rekognition te gebruiken
Onder de ten onrechte geïdentificeerde wetgevers bevonden zich Rep. John Lewis en Bobby Rush, beiden bekende burgerrechtenleiders en leden van de Congressional Black Caucus. Maar in plaats van te worden erkend als gekozen vertegenwoordigers, werden deze twee mannen (samen met 26 anderen) ten onrechte als criminelen bestempeld. Deze fouten deden zich voor toen de ACLU de software van Amazon gebruikte om afbeeldingen van alle leden van het Congres te analyseren aan de hand van een database van 25.000 openbaar toegankelijke mugshots. Dit had tot gevolg dat de 28 congresleden ten onrechte als wetsovertreders werden aangemerkt, wat neerkomt op een foutenpercentage van 5 procent.
“Deze test bevestigt dat gezichtsherkenning gebrekkig, bevooroordeeld en gevaarlijk is”, vertelde Jacob Snow, een advocaat op het gebied van technologie en burgerlijke vrijheden bij de ACLU van Noord-Californië, aan The New York Times.
In reactie op de test zei Nina Lindsey, een woordvoerster van Amazon Web Services, dat de ACLU de tool voor gezichtsmatching gebruikte (genaamd Amazon-erkenning) anders dan de aanbevelingen van Amazon. “Het is de moeite waard om op te merken dat Amazon Rekognition in praktijkscenario’s vrijwel uitsluitend wordt gebruikt om de kansen te beperken en mensen in staat stellen snel opties te beoordelen en te overwegen op basis van hun oordeel, ‘zei Lindsey in een stelling.
Ze wees er verder op dat de ACLU de ‘vertrouwensdrempel’ van het instrument op de standaardwaarde van 80 procent heeft gehouden. Dit betekent dat de groep er rekening mee hield dat elk gezicht voor 80 procent overeenkwam met de politiedatabase. Het is echter de moeite waard om erop te wijzen dat Amazon dezelfde drempel gebruikt in een voorbeeld op zijn website, waarin wordt getoond hoe de gezichten van werknemers kunnen worden gekoppeld aan hun ID-badges. Lindsey zei dat Amazon in het geval van politiediensten aanbeveelt een drempel van 95 procent gelijkenis te hanteren om dit soort fouten te voorkomen.
Amazon kwam eerder onder vuur te liggen vanwege de verkoop van Rekognition. In mei schreven 24 groepen voor burgerlijke vrijheden, onder leiding van de ACLU, een brief aan Jeff Bezos, CEO van Amazon, met het verzoek om de verkoop van de software aan wetshandhavingsinstanties stop te zetten. De groepen uitten hun bezorgdheid dat de software zou kunnen worden gebruikt om demonstranten, immigranten of algemene leden van het publiek in de gaten te houden, in plaats van alleen maar politieverdachten. Medewerkers, investeerders en academici van Amazon hebben sindsdien soortgelijke eisen aan Amazon gesteld.
Voorlopig lijkt dat echter niet in de kaarten van de webgigant te zitten. Zoals de woordvoerder van Amazon zei: “We blijven enthousiast over hoe beeld- en videoanalyse een drijfveer voor het goede in de wereld kunnen zijn.”
Bijgewerkt op 27 juli: Het Congres eist antwoorden van Amazon over de fouten gemaakt door zijn Rekognition-software.
Aanbevelingen van de redactie
- Au! Sommige Amazon Prime-leden worden geconfronteerd met een prijsstijging van 43%
- Hoe je de CEO’s van Facebook, Google, Amazon en Apple kunt zien getuigen voor het Congres
- Amazon, Apple, Facebook en Google zullen in juli voor het Congres getuigen
- Sen. Josh Hawley roept op tot een strafrechtelijk antitrustonderzoek naar Amazon
- Amerikaanse militaire gezichtsherkenning zou mensen op een afstand van 1 km kunnen identificeren
Upgrade uw levensstijlMet Digital Trends kunnen lezers de snelle technische wereld in de gaten houden met het laatste nieuws, leuke productrecensies, inzichtelijke redactionele artikelen en unieke sneak peeks.
