Amazon voudra peut-être retourner à la planche à dessin pour celui-ci. Un outil de reconnaissance faciale que le géant de la vente au détail propose actuellement aux développeurs une sacrée erreur dans un test mené par l’Union américaine des libertés civiles (ACLU), rapporte le New York Times. Plutôt que d’identifier 28 membres du Congrès comme membres du pouvoir législatif du pays, l’outil a plutôt classé ces individus comme suspects de la police. Pour aggraver les choses, un nombre disproportionné de membres afro-américains et latino-américains du Congrès ont été incorrectement élus. identifié, soulevant la question de savoir dans quelle mesure le profilage racial s'est intégré même dans notre apprentissage automatique logiciel.
Désormais, le Congrès veut des réponses. Cinq des législateurs mal identifiés demandent une rencontre « immédiate » avec le PDG d’Amazon, Jeff Bezos. Le jeudi 26 juillet, les représentants. Jimmy Gomez, John Lewis, Luis Gutierrez et Mark DeSaulnier, ainsi que le sénateur. Edward Markey a envoyé des lettres au géant de la vente au détail en ligne pour lui demander pourquoi ils ne correspondaient pas. Mais au-delà des effets personnels de ces cas d'erreur d'identité, les députés demandent réponses quant à « comment remédier aux défauts de cette technologie afin d’éviter des erreurs résultats. »
Vidéos recommandées
Amazon n'a pas encore indiqué si son PDG accepterait ces réunions.
Dans une déclaration distincte, le représentant. G.K. Butterfield a déclaré: « Je suis troublé par les résultats inexacts associés à cette technologie, car il existe des angles morts clairs qui auront des conséquences inattendues, en particulier pour les personnes de couleur. Même si cette technologie pourrait avoir un potentiel économique considérable, j’encourage Amazon à mieux former ses utilisateurs aux meilleures pratiques d’utilisation de cette technologie. technologie, soyez ouvert et franc sur ses limites et embauchez davantage d'employés de couleur qui peuvent aider correctement à remédier aux défauts de cette technologie. technologie."
En rapport
- Les membres d'Amazon Prime peuvent réclamer un pack gratuit d'exotiques colorés Destiny 2
- Les propriétaires de petites entreprises appellent le Congrès à griller les Bezos d’Amazon
- Amazon interdit à la police d'utiliser la technologie de reconnaissance faciale Rekognition pendant 1 an
Parmi les législateurs mal identifiés se trouvaient des représentants. John Lewis et Bobby Rush, tous deux leaders bien connus des droits civiques et membres du Congressional Black Caucus. Mais au lieu d’être reconnus comme représentants élus, ces deux hommes (avec 26 autres) ont été faussement signalés comme des criminels. Ces erreurs se sont produites lorsque l’ACLU a utilisé le logiciel d’Amazon pour analyser les images de tous les membres du Congrès par rapport à une base de données de 25 000 photos accessibles au public. Cela a eu pour conséquence que les 28 membres du Congrès ont été identifiés à tort comme des contrevenants, ce qui représente un taux d'erreur de 5 pour cent.
"Ce test confirme que la reconnaissance faciale est imparfaite, biaisée et dangereuse", a déclaré au New York Times Jacob Snow, avocat en technologie et libertés civiles à l'ACLU de Californie du Nord.
En réponse au test, Nina Lindsey, porte-parole d'Amazon Web Services, a déclaré que l'ACLU utilisait l'outil de correspondance de visage (appelé Reconnaissance Amazon) différemment des recommandations d’Amazon. « Il convient de noter que dans des scénarios réels, Amazon Rekognition est presque exclusivement utilisé pour aider à réduire le nombre de clients. domaine et permettre aux humains d'examiner et d'envisager rapidement les options en utilisant leur jugement », a déclaré Lindsey dans un communiqué. déclaration.
Elle a en outre souligné que l’ACLU a maintenu le « seuil de confiance » de l’outil à la valeur par défaut de 80 %. Cela signifie que le groupe a pris en compte tout visage correspondant à 80 pour cent à la base de données de la police. Cependant, il convient de souligner qu’Amazon utilise le même seuil dans un exemple sur son site Web, montrant comment les visages des employés peuvent être associés à leurs badges d’identification. Lindsey a déclaré que dans le cas des services de police, Amazon recommande qu'un seuil de similarité de 95 % soit mis en œuvre pour éviter ce genre d'erreurs.
Amazon a déjà été critiqué pour avoir vendu Rekognition. En mai, 24 groupes de défense des libertés civiles, dirigés par l’ACLU, ont écrit une lettre au PDG d’Amazon, Jeff Bezos, demandant que le logiciel cesse d’être vendu aux forces de l’ordre. Les groupes ont exprimé leurs inquiétudes quant au fait que le logiciel pourrait être utilisé pour surveiller les manifestants, les immigrants ou les membres du public en général, plutôt que simplement les suspects de la police. Les employés, les investisseurs et les universitaires d’Amazon ont depuis formulé des exigences similaires à l’égard d’Amazon.
Mais pour l’heure, cela ne semble pas être une option pour le géant du Web. Comme l’a déclaré le porte-parole d’Amazon: « Nous restons enthousiasmés par la façon dont l’analyse d’images et de vidéos peut être un moteur du bien dans le monde ».
Mis à jour le 27 juillet: le Congrès exige des réponses d'Amazon concernant les erreurs commises par son logiciel Rekognition.
Recommandations des rédacteurs
- Aie! Certains membres d'Amazon Prime font face à une hausse des prix de 43 %
- Comment regarder les PDG de Facebook, Google, Amazon et Apple témoigner devant le Congrès
- Amazon, Apple, Facebook et Google témoigneront devant le Congrès en juillet
- Le sénateur Josh Hawley demande une enquête pénale antitrust sur Amazon
- La reconnaissance faciale militaire américaine pourrait identifier des personnes à 1 km de distance
Améliorez votre style de vieDigital Trends aide les lecteurs à garder un œil sur le monde en évolution rapide de la technologie avec toutes les dernières nouvelles, des critiques de produits amusantes, des éditoriaux perspicaces et des aperçus uniques.
