Amazon potrebbe voler tornare al tavolo da disegno per questo. Uno strumento di riconoscimento facciale che il gigante della vendita al dettaglio offre attualmente agli sviluppatori proprio un errore in un test condotto dall'American Civil Liberties Union (ACLU), riferisce il New York Times. Invece di identificare 28 membri del Congresso come membri del ramo legislativo del paese, lo strumento ha invece classificato questi individui come sospettati di polizia. A peggiorare le cose, un numero sproporzionato di membri del Congresso afroamericani e latini si sbagliavano identificati, sollevando dubbi su quanto la profilazione razziale sia radicata anche nel nostro apprendimento automatico Software.
Ora il Congresso vuole risposte. Cinque dei legislatori erroneamente identificati chiedono un incontro “immediato” con il CEO di Amazon Jeff Bezos. Giovedì 26 luglio, Reps. Jimmy Gomez, John Lewis, Luis Gutierrez e Mark DeSaulnier, nonché il senatore. Edward Markey, ha inviato lettere al colosso della vendita al dettaglio online chiedendo perché non corrispondevano. Ma al di là degli effetti personali di questi casi di scambio d'identità, chiedono i deputati risposte su “come affrontare i difetti di questa tecnologia per evitare errori risultati."
Video consigliati
Amazon non ha ancora indicato se il suo amministratore delegato accetterà questi incontri.
In una dichiarazione separata, Rep. G.K. Butterfield ha osservato: “Sono turbato dai risultati imprecisi associati a questa tecnologia, poiché ci sono chiari punti ciechi che avranno conseguenze indesiderate specificamente per le persone colore. Anche se questa tecnologia potrebbe avere un potenziale economico di vasta portata, incoraggio Amazon a formare meglio i suoi utenti sulle migliori pratiche per utilizzarla tecnologia, essere aperti e chiari riguardo ai suoi limiti e assumere più dipendenti di colore che possano adeguatamente assistere nell’affrontare i difetti di questa tecnologia."
Imparentato
- I membri di Amazon Prime possono richiedere un pacchetto gratuito di colorati esotici di Destiny 2
- I proprietari di piccole imprese chiedono al Congresso di interrogare Bezos di Amazon
- Amazon vieta alla polizia di utilizzare la tecnologia di riconoscimento facciale Rekognition per 1 anno
Tra i legislatori erroneamente identificati c'erano i rappresentanti. John Lewis e Bobby Rush, entrambi noti leader dei diritti civili e membri del Congressional Black Caucus. Ma invece di essere riconosciuti come rappresentanti eletti, questi due uomini (insieme ad altri 26) furono falsamente etichettati come criminali. Questi errori si sono verificati quando l’ACLU ha utilizzato il software di Amazon per analizzare le immagini di tutti i membri del Congresso rispetto a un database di 25.000 foto segnaletiche accessibili al pubblico. Ciò ha comportato che i 28 membri del Congresso siano stati erroneamente identificati come delinquenti, il che rappresenta un tasso di errore del 5%.
"Questo test conferma che il riconoscimento facciale è imperfetto, parziale e pericoloso", ha detto al New York Times Jacob Snow, un avvocato specializzato in tecnologia e libertà civili presso l'ACLU della California settentrionale.
In risposta al test, Nina Lindsey, portavoce di Amazon Web Services, ha affermato che l'ACLU ha utilizzato lo strumento di corrispondenza dei volti (chiamato Riconoscimento Amazon) diversamente dalle raccomandazioni di Amazon. “Vale la pena notare che negli scenari del mondo reale, Amazon Rekognition viene utilizzato quasi esclusivamente per aiutare a restringere il campo campo e consentire agli esseri umani di rivedere e considerare rapidamente le opzioni usando il loro giudizio", ha detto Lindsey in a dichiarazione.
Ha inoltre sottolineato che l’ACLU ha mantenuto la “soglia di fiducia” dello strumento al valore predefinito dell’80%. Ciò significa che il gruppo ha considerato qualsiasi volto corrispondente come simile all'80% al database della polizia. Tuttavia, vale la pena sottolineare che Amazon utilizza la stessa soglia in un esempio sul suo sito web, mostrando come i volti dei dipendenti possono essere abbinati ai loro badge identificativi. Lindsey ha affermato che nel caso dei dipartimenti di polizia, Amazon raccomanda di implementare una soglia del 95% di somiglianza per evitare questo tipo di errori.
Amazon è già stata criticata per aver venduto Rekognition. A maggio, 24 gruppi per le libertà civili, guidati dall’ACLU, hanno scritto una lettera al CEO di Amazon Jeff Bezos chiedendo che il software cessasse di essere venduto alle forze dell’ordine. I gruppi hanno espresso preoccupazione sul fatto che il software possa essere utilizzato per sorvegliare manifestanti, immigrati o membri del pubblico in generale, piuttosto che solo sospetti della polizia. Da allora i dipendenti, gli investitori e gli accademici di Amazon hanno avanzato richieste simili ad Amazon.
Per il momento, però, questo non sembra essere nelle carte del colosso del web. Come ha affermato il portavoce di Amazon: “Siamo entusiasti di come l’analisi di immagini e video possa essere un motore del bene nel mondo”.
Aggiornamento del 27 luglio: il Congresso chiede risposte ad Amazon in merito agli errori commessi dal suo software Rekognition.
Raccomandazioni degli editori
- Ahia! Alcuni membri di Amazon Prime devono affrontare un aumento dei prezzi del 43%.
- Come guardare gli amministratori delegati di Facebook, Google, Amazon e Apple testimoniare al Congresso
- Amazon, Apple, Facebook e Google testimonieranno davanti al Congresso a luglio
- Sen. Josh Hawley chiede un'indagine antitrust penale su Amazon
- Il riconoscimento facciale militare statunitense potrebbe identificare persone fino a 1 km di distanza
Migliora il tuo stile di vitaDigital Trends aiuta i lettori a tenere d'occhio il frenetico mondo della tecnologia con tutte le ultime notizie, divertenti recensioni di prodotti, editoriali approfonditi e anteprime uniche nel loro genere.
