„Amazon“ gali norėti grįžti prie šio piešimo lentos. Šiuo metu mažmeninės prekybos milžinas kūrėjams siūlo veido atpažinimo įrankį gana klaida Amerikos piliečių laisvių sąjungos (ACLU) atliktame teste, praneša „The New York Times“. Užuot identifikavusi 28 Kongreso narius kaip šalies įstatymų leidžiamosios šakos narius, priemonė šiuos asmenis priskyrė policijos įtariamiesiems. Dar blogiau tai, kad neproporcingas skaičius afroamerikiečių ir lotynų kongreso narių buvo neteisingai identifikuotas, iškeldamas klausimus, kiek rasinis profiliavimas įsitvirtino net mūsų mašininiame mokyme programinė įranga.
Dabar Kongresas nori atsakymų. Penki iš klaidingai nustatytų įstatymų leidėjų prašo „nedelsiant“ susitikti su „Amazon“ generaliniu direktoriumi Jeffu Bezosu. Ketvirtadienį, liepos 26 d., Reps. Jimmy Gomezas, Johnas Lewisas, Luisas Gutierrezas ir Markas DeSaulnieris, taip pat sen. Edwardas Markey išsiuntė laiškus internetinės mažmeninės prekybos milžinui, klausdamas, kodėl jie nesutampa. Tačiau kongresmenai prašo ne tik asmeninių šių klaidingos tapatybės atvejų padarinių atsakymai į „kaip pašalinti šios technologijos trūkumus, kad būtų išvengta netikslumų rezultatai“.
Rekomenduojami vaizdo įrašai
„Amazon“ dar nenurodė, ar jos vadovas sutiks su šiais susitikimais.
Atskirame pareiškime Rep. G.K. Butterfieldas pažymėjo: „Mane neramina netikslūs rezultatai, susiję su šia technologija, nes yra aiškių aklųjų zonų, kurios turės nenumatytų pasekmių būtent žmonėms spalva. Nors ši technologija gali turėti plataus ekonominio potencialo, aš raginu „Amazon“ geriau mokyti savo vartotojus apie geriausią šios technologijos naudojimo praktiką. technologiją, būkite atviri ir iš anksto žinokite apie jos apribojimus ir pasamdykite daugiau spalvotų darbuotojų, kurie galėtų tinkamai padėti išspręsti šios technologijos trūkumus. technologija“.
Susijęs
- „Amazon Prime“ nariai gali gauti nemokamą spalvingų „Destiny 2“ egzotikos pakuotę
- Smulkaus verslo savininkai ragina Kongresą kepti Amazon's Bezos
- „Amazon“ draudžia policijai 1 metus naudoti veido atpažinimo technologiją „Rekognition“.
Tarp klaidingai nustatytų įstatymų leidėjų buvo ir atstovų. Johnas Lewisas ir Bobby Rushas, kurie abu yra gerai žinomi pilietinių teisių lyderiai ir Kongreso Juodosios partijos nariai. Tačiau užuot pripažinti išrinktais atstovais, šie du vyrai (kartu su 26 kitais) buvo klaidingai pažymėti kaip nusikaltėliai. Šios klaidos įvyko, kai ACLU pasinaudojo „Amazon“ programine įranga, kad išanalizuoti visų Kongreso narių vaizdus pagal 25 000 viešai prieinamų nuotraukų duomenų bazę. Dėl to 28 Kongreso nariai buvo neteisingai identifikuoti kaip įstatymų pažeidėjai, o tai reiškia 5 procentų klaidų lygį.
„Šis testas patvirtina, kad veido atpažinimas yra ydingas, šališkas ir pavojingas“, – „The New York Times“ sakė Šiaurės Kalifornijos ACLU technologijų ir pilietinių laisvių teisininkas Jacobas Snow.
Atsakydama į testą, „Amazon Web Services“ atstovė Nina Lindsey teigė, kad ACLU naudojo veido suderinimo įrankį (vadinamą). „Amazon“ atpažinimas) kitaip nei Amazon rekomendacijos. „Verta pažymėti, kad realaus pasaulio scenarijuose „Amazon Rekognition“ beveik išimtinai naudojamas siekiant susiaurinti srityje ir leisti žmonėms operatyviai peržiūrėti ir apsvarstyti galimybes, remiantis savo sprendimu“, – sakė Lindsey pareiškimas.
Ji taip pat pažymėjo, kad ACLU išlaikė įrankio „pasitikėjimo slenkstį“ 80 proc. Tai reiškia, kad grupė atsižvelgė į bet kurį veidą, 80 procentų panašų į policijos duomenų bazę. Tačiau verta paminėti, kad „Amazon“ naudoja tą patį slenkstį savo svetainės pavyzdyje, parodydama, kaip darbuotojų veidus galima suderinti su jų asmens tapatybės ženkleliais. Lindsey teigė, kad policijos departamentų atveju „Amazon“ rekomenduoja taikyti 95 procentų panašumo slenkstį, kad būtų išvengta tokių klaidų.
„Amazon“ anksčiau buvo kritikuojamas dėl „Rekognition“ pardavimo. Gegužės mėnesį 24 pilietinių laisvių grupės, vadovaujamos ACLU, parašė laišką „Amazon“ generaliniam direktoriui Jeffui Bezosui, prašydami nutraukti programinės įrangos pardavimą teisėsaugos institucijoms. Grupės išreiškė susirūpinimą, kad programinė įranga gali būti naudojama protestuotojams, imigrantams ar plačiajai visuomenei stebėti, o ne tik policijos įtariamiesiems. Nuo tada „Amazon“ darbuotojai, investuotojai ir akademikai kėlė panašius reikalavimus „Amazon“.
Tačiau kol kas neatrodo, kad tai būtų interneto milžino kortelėse. Kaip sakė „Amazon“ atstovas spaudai: „Mes ir toliau džiaugiamės, kaip vaizdų ir vaizdo įrašų analizė gali paskatinti gėrį pasaulyje“.
Atnaujinta liepos 27 d.: Kongresas reikalauja iš „Amazon“ atsakymų dėl „Rekognition“ programinės įrangos klaidų.
Redaktorių rekomendacijos
- Oi! Kai kurie „Amazon Prime“ nariai susiduria su kainų padidėjimu 43%.
- Kaip stebėti, kaip „Facebook“, „Google“, „Amazon“ ir „Apple“ generaliniai direktoriai liudija Kongresą
- „Amazon“, „Apple“, „Facebook“ ir „Google“ liudys prieš Kongresą liepos mėnesį
- Sen. Joshas Hawley ragina pradėti nusikalstamą antimonopolinį tyrimą „Amazon“.
- JAV karinis veido atpažinimas galėtų atpažinti žmones iš 1 km
Atnaujinkite savo gyvenimo būdąSkaitmeninės tendencijos padeda skaitytojams stebėti sparčiai besivystantį technologijų pasaulį – pateikiamos visos naujausios naujienos, smagios produktų apžvalgos, įžvalgūs vedamieji leidiniai ir unikalūs žvilgsniai.
