Amazon poate dori să se întoarcă la planșa de desen pentru aceasta. Un instrument de recunoaștere facială pe care gigantul de retail îl oferă dezvoltatorilor în prezent destul de greseala într-un test efectuat de Uniunea Americană pentru Libertăți Civile (ACLU), relatează The New York Times. În loc să identifice 28 de membri ai Congresului ca membri ai ramurii legislative a țării, instrumentul a clasificat în schimb acești indivizi drept suspecți de poliție. Pentru a înrăutăți lucrurile, un număr disproporționat de membri ai Congresului afro-american și latino au fost incorect identificate, ridicând întrebări cu privire la cât de departe s-a încorporat profilarea rasială chiar și în învățarea noastră automată software.
Acum, Congresul vrea răspunsuri. Cinci dintre parlamentarii identificați greșit solicită o întâlnire „imediată” cu CEO-ul Amazon, Jeff Bezos. Joi, 26 iulie, Reps. Jimmy Gomez, John Lewis, Luis Gutierrez și Mark DeSaulnier, precum și senatorul. Edward Markey, a trimis scrisori gigantului de retail online, întrebând de ce nu se potrivesc. Dar dincolo de efectele personale ale acestor cazuri de identitate greșită, congresmenii cer răspunsuri la „cum să rezolvăm defectele acestei tehnologii pentru a preveni inexactitatea rezultate.”
Videoclipuri recomandate
Amazon nu a indicat încă dacă directorul său executiv va accepta aceste întâlniri.
Într-o declarație separată, rep. G.K. Butterfield a remarcat: „Sunt tulburat de rezultatele inexacte asociate cu această tehnologie, deoarece există puncte oarbe clare care vor avea consecințe neintenționate în special pentru oamenii din culoare. Deși această tehnologie ar putea avea un potențial economic de mare anvergură, încurajez Amazon să își instruiască mai bine utilizatorii cu privire la cele mai bune practici pentru utilizarea acesteia tehnologia, fiți deschis și direct cu privire la limitările acesteia și angajați mai mulți angajați de culoare care să vă ajute în mod corespunzător la remedierea defectelor acestei tehnologie."
Legate de
- Membrii Amazon Prime pot revendica un pachet gratuit de exotice colorate din Destiny 2
- Proprietarii de afaceri mici solicită Congresului să facă grătar Bezos de la Amazon
- Amazon interzice poliției să folosească tehnologia de recunoaștere facială Rekognition timp de 1 an
Printre parlamentarii identificați greșit s-au numărat reprezentanții. John Lewis și Bobby Rush, ambii lideri cunoscuți pentru drepturile civile și membri ai Congressional Black Caucus. Dar, în loc să fie recunoscuți drept reprezentanți aleși, acești doi bărbați (împreună cu alți 26), au fost semnalați în mod fals drept infractori. Aceste greșeli au apărut atunci când ACLU a luat software-ul Amazon pentru a analiza imaginile tuturor membrilor Congresului în raport cu o bază de date de 25.000 de fotografii publicitare accesibile. Acest lucru a dus la identificarea incorect a celor 28 de membri ai Congresului ca fiind încălcatori ai legii, ceea ce reprezintă o rată de eroare de 5%.
„Acest test confirmă faptul că recunoașterea facială este defectuoasă, părtinitoare și periculoasă”, a declarat pentru The New York Times Jacob Snow, avocat pentru tehnologie și libertăți civile la ACLU din California de Nord.
Ca răspuns la test, Nina Lindsey, un purtător de cuvânt al Amazon Web Services, a spus că ACLU a folosit instrumentul de potrivire a feței (numit Recunoaștere Amazon) diferit de recomandările Amazon. „Este de remarcat faptul că, în scenariile din lumea reală, Amazon Rekognition este folosit aproape exclusiv pentru a ajuta la restrângerea câmp și să permită oamenilor să revizuiască și să ia în considerare rapid opțiuni folosind judecata lor”, a spus Lindsey într-un afirmație.
Ea a mai subliniat că ACLU a menținut „pragul de încredere” al instrumentului la valoarea implicită de 80%. Aceasta înseamnă că grupul a luat în considerare orice față potrivită ca 80 la sută similară cu baza de date a poliției. Cu toate acestea, merită subliniat faptul că Amazon folosește același prag într-un exemplu de pe site-ul său web, arătând cum chipurile angajaților pot fi asortate cu insignele lor de identitate. Lindsey a spus că, în cazul departamentelor de poliție, Amazon recomandă implementarea unui prag de 95% similaritate pentru a evita astfel de greșeli.
Amazon a fost criticat anterior pentru că a vândut Rekognition. În mai, 24 de grupuri de libertăți civile, conduse de ACLU, au scris o scrisoare către CEO-ul Amazon, Jeff Bezos, prin care ceru ca software-ul să înceteze să fie vândut agențiilor de aplicare a legii. Grupurile și-au exprimat îngrijorarea că software-ul ar putea fi folosit pentru a supraveghea protestatarii, imigranții sau membrii generali ai publicului, mai degrabă decât doar suspecții poliției. Angajații, investitorii și cadrele universitare Amazon au făcut de atunci cerințe similare către Amazon.
Deocamdată, însă, acest lucru nu pare să fie în cărțile pentru gigantul web. După cum a spus purtătorul de cuvânt al Amazon, „Suntem încântați de modul în care analiza imaginilor și video poate fi un motor pentru bine în lume”.
Actualizat pe 27 iulie: Congresul cere răspunsuri de la Amazon cu privire la greșelile făcute de software-ul său Rekognition.
Recomandările editorilor
- Ai! Unii membri Amazon Prime se confruntă cu o creștere a prețurilor cu 43%.
- Cum să-i urmărești pe directorii executivi ai Facebook, Google, Amazon și Apple depunând mărturie în fața Congresului
- Amazon, Apple, Facebook și Google vor depune mărturie în fața Congresului în iulie
- Sen. Josh Hawley cere o anchetă penală antitrust asupra Amazon
- Recunoașterea facială a armatei americane ar putea identifica oamenii de la 1 km distanță
Îmbunătățește-ți stilul de viațăDigital Trends îi ajută pe cititori să țină cont de lumea rapidă a tehnologiei cu toate cele mai recente știri, recenzii distractive despre produse, editoriale perspicace și anticipări unice.
