Amazon möchte in diesem Fall vielleicht noch einmal ans Zeichenbrett gehen. Ein Gesichtserkennungstool, das der Einzelhandelsriese derzeit von Entwicklern anbietet ein ziemlicher Fehler in einem von der American Civil Liberties Union (ACLU) durchgeführten Test, berichtet die New York Times. Anstatt 28 Kongressabgeordnete als Mitglieder der Legislative des Landes zu identifizieren, stufte das Tool diese Personen stattdessen als Polizeiverdächtige ein. Erschwerend kam hinzu, dass unverhältnismäßig viele afroamerikanische und lateinamerikanische Kongressabgeordnete falsch lagen identifiziert, was die Frage aufwirft, inwieweit sich Racial Profiling sogar in unserem maschinellen Lernen verankert hat Software.
Jetzt will der Kongress Antworten. Fünf der fälschlicherweise identifizierten Gesetzgeber fordern ein „sofortiges“ Treffen mit Amazon-Chef Jeff Bezos. Am Donnerstag, 26. Juli, trafen sich die Vertreter. Jimmy Gomez, John Lewis, Luis Gutierrez und Mark DeSaulnier sowie Sen. Edward Markey schickte Briefe an den Online-Einzelhandelsriesen und fragte, warum sie nicht übereinstimmten. Aber über die persönlichen Auswirkungen dieser Fälle von Verwechslungen hinaus fordern die Kongressabgeordneten Antworten auf die Frage „wie man die Mängel dieser Technologie beheben kann, um Ungenauigkeiten zu vermeiden.“ Ergebnisse.“
Empfohlene Videos
Amazon hat noch nicht angegeben, ob sein Vorstandsvorsitzender diese Treffen akzeptieren wird.
In einer separaten Erklärung sagte Rep. G.K. Butterfield bemerkte: „Ich bin beunruhigt über die ungenauen Ergebnisse, die mit dieser Technologie einhergehen. da es klare blinde Flecken gibt, die insbesondere für die Menschen unbeabsichtigte Folgen haben werden Farbe. Obwohl diese Technologie ein weitreichendes wirtschaftliches Potenzial haben könnte, ermutige ich Amazon, seine Benutzer besser in den Best Practices für den Einsatz dieser Technologie zu schulen Seien Sie offen und offen über die Grenzen der Technologie und stellen Sie mehr farbige Mitarbeiter ein, die bei der Behebung der Mängel dieser Technologie angemessen helfen können Technologie."
Verwandt
- Amazon Prime-Mitglieder können sich ein kostenloses Paket mit farbenfrohen Destiny 2-Exoten sichern
- Kleinunternehmer fordern den Kongress auf, Amazons Bezos in die Mangel zu nehmen
- Amazon verbietet der Polizei für ein Jahr den Einsatz der Gesichtserkennungstechnologie Rekognition
Zu den fälschlicherweise identifizierten Gesetzgebern gehörten Abgeordnete. John Lewis und Bobby Rush, beide bekannte Bürgerrechtler und Mitglieder des Congressional Black Caucus. Doch anstatt als gewählte Vertreter anerkannt zu werden, wurden diese beiden Männer (zusammen mit 26 anderen) fälschlicherweise als Kriminelle gekennzeichnet. Diese Fehler traten auf, als die ACLU die Software von Amazon nutzte, um Bilder aller Kongressmitglieder anhand einer Datenbank mit 25.000 öffentlich zugänglichen Fahndungsfotos zu analysieren. Dies führte dazu, dass die 28 Kongressabgeordneten fälschlicherweise als Gesetzesbrecher identifiziert wurden, was einer Fehlerquote von 5 Prozent entspricht.
„Dieser Test bestätigt, dass die Gesichtserkennung fehlerhaft, voreingenommen und gefährlich ist“, sagte Jacob Snow, Anwalt für Technologie und Bürgerrechte bei der ACLU in Nordkalifornien, gegenüber der New York Times.
Als Reaktion auf den Test sagte Nina Lindsey, eine Sprecherin von Amazon Web Services, dass die ACLU das Face-Matching-Tool (genannt Amazon-Anerkennung) unterscheidet sich von den Empfehlungen von Amazon. „Es ist erwähnenswert, dass Amazon Rekognition in realen Szenarien fast ausschließlich zur Eingrenzung verwendet wird Feld und ermöglichen es den Menschen, Optionen anhand ihres Urteilsvermögens schnell zu prüfen und zu erwägen“, sagte Lindsey in einem Stellungnahme.
Sie wies weiter darauf hin, dass die ACLU die „Konfidenzschwelle“ des Tools beim Standardwert von 80 Prozent belassen habe. Dies bedeutet, dass die Gruppe jedes Gesicht berücksichtigte, das zu 80 Prozent mit der Polizeidatenbank übereinstimmte. Es ist jedoch darauf hinzuweisen, dass Amazon in einem Beispiel auf seiner Website denselben Schwellenwert verwendet und zeigt, wie die Gesichter von Mitarbeitern mit ihren Ausweisen abgeglichen werden können. Lindsey sagte, dass Amazon im Fall von Polizeibehörden die Einführung eines Schwellenwerts von 95 Prozent Ähnlichkeit empfiehlt, um solche Fehler zu vermeiden.
Amazon stand bereits zuvor wegen des Verkaufs von Rekognition in der Kritik. Im Mai verfassten 24 Bürgerrechtsgruppen unter der Führung der ACLU einen Brief an Amazon-Chef Jeff Bezos, in dem sie darum baten, den Verkauf der Software an Strafverfolgungsbehörden einzustellen. Die Gruppen äußerten Bedenken, dass die Software nicht nur zur Überwachung von Polizeiverdächtigen, sondern auch zur Überwachung von Demonstranten, Einwanderern oder anderen Mitgliedern der Öffentlichkeit verwendet werden könnte. Amazon-Mitarbeiter, Investoren und Wissenschaftler haben seitdem ähnliche Forderungen an Amazon gestellt.
Das scheint für den Webgiganten aber vorerst nicht in Frage zu kommen. Wie der Amazon-Sprecher sagte: „Wir sind weiterhin gespannt darauf, wie Bild- und Videoanalysen zum Guten in der Welt beitragen können.“
Aktualisiert am 27. Juli: Der Kongress fordert von Amazon Antworten auf die Fehler seiner Rekognition-Software.
Empfehlungen der Redaktion
- Autsch! Einige Amazon Prime-Mitglieder müssen mit einer Preiserhöhung von 43 % rechnen
- So sehen Sie, wie die CEOs von Facebook, Google, Amazon und Apple vor dem Kongress aussagen
- Amazon, Apple, Facebook und Google werden im Juli vor dem Kongress aussagen
- Sen. Josh Hawley fordert eine strafrechtliche Untersuchung gegen Amazon
- Die Gesichtserkennung des US-Militärs könnte Personen aus einer Entfernung von 1 km identifizieren
Werten Sie Ihren Lebensstil aufDigital Trends hilft Lesern mit den neuesten Nachrichten, unterhaltsamen Produktrezensionen, aufschlussreichen Leitartikeln und einzigartigen Einblicken, den Überblick über die schnelllebige Welt der Technik zu behalten.
