Amazon, iespējams, vēlēsies atgriezties pie rasēšanas tāfeles. Sejas atpazīšanas rīks, ko mazumtirdzniecības gigants pašlaik piedāvā izstrādātājiem diezgan liela kļūda Amerikas Pilsoņu brīvību savienības (ACLU) veiktajā testā, ziņo The New York Times. Tā vietā, lai identificētu 28 Kongresa locekļus kā valsts likumdošanas nozares locekļus, rīks šīs personas klasificēja kā policijas aizdomās turamos. Vēl sliktāk, nesamērīgi liels skaits afroamerikāņu un latīņamerikāņu kongresa locekļu bija nepareizi identificēts, radot jautājumus par to, cik tālu rasu profilēšana ir iestrādāta pat mūsu mašīnmācībā programmatūra.
Tagad Kongress vēlas saņemt atbildes. Pieci no nepareizi identificētajiem likumdevējiem pieprasa “tūlītēju” tikšanos ar Amazon izpilddirektoru Džefu Bezosu. Ceturtdien, 26. jūlijā, Reps. Džimijs Gomess, Džons Lūiss, Luiss Gutjeress un Marks Desolnjē, kā arī Sen. Edvards Mārkijs nosūtīja vēstules tiešsaistes mazumtirdzniecības gigantam, jautājot, kāpēc tās neatbilst. Taču kongresmeņi pieprasa ne tikai šo kļūdainās identitātes gadījumu personīgo ietekmi atbildes uz jautājumu “kā novērst šīs tehnoloģijas defektus, lai novērstu neprecizitāti rezultāti.”
Ieteiktie videoklipi
Amazon vēl nav norādījis, vai tās izpilddirektors pieņems šīs sanāksmes.
Atsevišķā paziņojumā Rep. G.K. Baterfīlds atzīmēja: "Mani satrauc ar šo tehnoloģiju saistītie neprecīzie rezultāti, jo ir skaidras aklās zonas, kurām būs neparedzētas sekas tieši cilvēkiem no krāsa. Lai gan šai tehnoloģijai varētu būt tālejošs ekonomisks potenciāls, es mudinu Amazon labāk apmācīt savus lietotājus par šīs tehnoloģijas izmantošanas paraugpraksi. tehnoloģiju, esiet atklāti un tiešam par tās ierobežojumiem un algojiet vairāk krāsainu darbinieku, kuri var pienācīgi palīdzēt novērst šīs tehnoloģijas trūkumus. tehnoloģija.”
Saistīts
- Amazon Prime dalībnieki var pieprasīt bezmaksas krāsainu Destiny 2 eksotikas paku
- Mazo uzņēmumu īpašnieki aicina Kongresu grilēt Amazon Bezos
- Amazon aizliedz policijai vienu gadu izmantot sejas atpazīšanas tehnoloģiju Rekognition
Starp nepareizi identificētajiem likumdevējiem bija Reps. Džons Lūiss un Bobijs Rašs, kuri abi ir labi pazīstami pilsoņu tiesību līderi un Kongresa Melnās partijas locekļi. Taču tā vietā, lai tiktu atzīti par ievēlētiem pārstāvjiem, šie divi vīrieši (kopā ar 26 citiem) tika nepatiesi atzīmēti kā noziedznieki. Šīs kļūdas radās, kad ACLU izmantoja Amazon programmatūru, lai analizētu visu Kongresa locekļu attēlus, salīdzinot ar datubāzi ar 25 000 publiski pieejamu attēlu. Tā rezultātā 28 Kongresa locekļi tika nepareizi identificēti kā likuma pārkāpēji, kas atbilst 5 procentu kļūdu līmenim.
"Šis tests apstiprina, ka sejas atpazīšana ir kļūdaina, neobjektīva un bīstama," laikrakstam The New York Times sacīja Džeikobs Snovs, Ziemeļkalifornijas ACLU tehnoloģiju un pilsoņu brīvību jurists.
Atbildot uz testu, Amazon Web Services pārstāve Nina Lindsija sacīja, ka ACLU izmantoja sejas saskaņošanas rīku (sauktu Amazon atpazīšana) atšķiras no Amazon ieteikumiem. "Ir vērts atzīmēt, ka reālās pasaules scenārijos Amazon Rekognition gandrīz tikai tiek izmantots, lai palīdzētu sašaurināt laukā un ļauj cilvēkiem ātri pārskatīt un apsvērt iespējas, izmantojot savu spriedumu, ”sacīja Lindsija a paziņojums, apgalvojums.
Viņa arī norādīja, ka ACLU saglabāja rīka “uzticamības slieksni” pēc noklusējuma 80 procentu apmērā. Tas nozīmē, ka grupa ņēma vērā jebkuru seju, kas atbilst policijas datubāzei par 80 procentiem. Tomēr ir vērts norādīt, ka Amazon savā tīmekļa vietnes piemērā izmanto to pašu slieksni, parādot, kā darbinieku sejas var saskaņot ar viņu ID nozīmītēm. Lindsija sacīja, ka policijas departamentu gadījumā Amazon iesaka ieviest 95 procentu līdzības slieksni, lai izvairītos no šādām kļūdām.
Amazon iepriekš tika kritizēts par Rekognition pārdošanu. Maijā 24 pilsoņu brīvību grupas, ko vadīja ACLU, nosūtīja vēstuli Amazon izpilddirektoram Džefam Bezosam, lūdzot pārtraukt programmatūras pārdošanu tiesībaizsardzības iestādēm. Grupas pauda bažas, ka programmatūru varētu izmantot, lai uzraudzītu protestētājus, imigrantus vai vispārējus sabiedrības locekļus, nevis tikai policijas aizdomās turamos. Kopš tā laika Amazon darbinieki, investori un akadēmiķi ir izvirzījuši līdzīgas prasības Amazon.
Tomēr pagaidām šķiet, ka tas nav iekļauts tīmekļa giganta kartēs. Kā sacīja Amazon pārstāvis: "Mēs joprojām esam satraukti par to, kā attēlu un video analīze var būt par labu pasaulē."
Atjaunināts 27. jūlijā: Kongress pieprasa no Amazon atbildes par kļūdām, ko pieļāvusi programmatūra Rekognition.
Redaktoru ieteikumi
- Ak! Daži Amazon Prime dalībnieki saskaras ar cenu kāpumu par 43%.
- Kā skatīties, kā Facebook, Google, Amazon un Apple izpilddirektori liecina Kongresam
- Amazon, Apple, Facebook un Google liecinās pirms Kongresa jūlijā
- Sen. Džošs Havlijs aicina uzsākt kriminālizmeklēšanu pret monopolu Amazon
- ASV militārā sejas atpazīšana varētu identificēt cilvēkus no 1 km attāluma
Uzlabojiet savu dzīvesveiduDigitālās tendences palīdz lasītājiem sekot līdzi steidzīgajai tehnoloģiju pasaulei, izmantojot visas jaunākās ziņas, jautrus produktu apskatus, ieskatu saturošus rakstus un unikālus ieskatus.
