Amazon se bo morda želel vrniti k risalni deski za to. Orodje za prepoznavanje obraza, ki ga maloprodajni velikan trenutno ponuja razvijalcem, so izdelali prava napaka v testu, ki ga je izvedla Ameriška zveza za državljanske svoboščine (ACLU), poroča The New York Times. Namesto da bi orodje identificiralo 28 članov kongresa kot člane zakonodajne veje države, je te posameznike razvrstilo kot policijske osumljence. Da bi bile stvari še hujše, je bilo nesorazmerno veliko število afroameriških in latinoameriških članov kongresa napačno identificirali, kar sproža vprašanja, kako daleč je rasno profiliranje vgrajeno celo v naše strojno učenje programsko opremo.
Sedaj želi kongres odgovore. Pet od napačno identificiranih zakonodajalcev zahteva "takojšnje" srečanje z izvršnim direktorjem Amazona Jeffom Bezosom. V četrtek, 26. julija, Reps. Jimmy Gomez, John Lewis, Luis Gutierrez in Mark DeSaulnier ter Sen. Edward Markey je poslal pisma spletnemu maloprodajnemu velikanu z vprašanjem, zakaj se ne ujemajo. Toda poleg osebnih učinkov teh primerov napačne identitete zahtevajo kongresniki odgovore o tem, »kako odpraviti napake te tehnologije, da bi preprečili netočne rezultati."
Priporočeni videoposnetki
Amazon še ni navedel, ali bo njegov izvršni direktor sprejel ta srečanja.
V ločeni izjavi je Rep. G.K. Butterfield je opozoril: »Skrbijo me netočni rezultati, povezani s to tehnologijo, saj obstajajo očitne slepe pege, ki bodo imele neželene posledice posebej za ljudi barva. Medtem ko bi ta tehnologija lahko imela daljnosežen gospodarski potencial, spodbujam Amazon, da bolje usposobi svoje uporabnike o najboljših praksah za uporabo tega tehnologije, bodite odprti in odkriti glede njenih omejitev ter najemite več barvnih uslužbencev, ki lahko ustrezno pomagajo pri odpravljanju pomanjkljivosti tega tehnologija."
Povezano
- Člani Amazon Prime lahko zahtevajo brezplačen paket barvite eksotike Destiny 2
- Lastniki malih podjetij pozivajo kongres, naj pripravi Amazonovega Bezosa
- Amazon je policiji za 1 leto prepovedal uporabo tehnologije za prepoznavanje obraza Rekognition
Med napačno identificiranimi poslanci so bili predstavniki. John Lewis in Bobby Rush, oba sta dobro znana voditelja državljanskih pravic in člana Kongresnega črnskega kluba. Toda namesto da bi bila priznana kot izvoljena predstavnika, sta bila ta dva (skupaj s 26 drugimi) lažno označena kot kriminalca. Te napake so se zgodile, ko je ACLU vzel Amazonovo programsko opremo za analizo slik vseh članov kongresa glede na bazo podatkov s 25.000 javno dostopnimi slikami. Posledica tega je bilo, da je bilo 28 članov kongresa nepravilno identificiranih kot kršitelji zakona, kar predstavlja 5-odstotno stopnjo napake.
"Ta test potrjuje, da je prepoznavanje obraza pomanjkljivo, pristransko in nevarno," je za The New York Times povedal Jacob Snow, odvetnik za tehnologijo in državljanske svoboščine pri ACLU v Severni Kaliforniji.
V odgovor na test je Nina Lindsey, tiskovna predstavnica Amazon Web Services, povedala, da je ACLU uporabil orodje za ujemanje obrazov (imenovano Amazon Rekognition) drugače od Amazonovih priporočil. »Omeniti velja, da se Amazon Rekognition v resničnih scenarijih skoraj izključno uporablja za pomoč pri zoževanju in omogoči ljudem, da hitro pregledajo in razmislijo o možnostih na podlagi svoje presoje,« je dejala Lindsey v izjava.
Nadalje je poudarila, da je ACLU ohranil "prag zaupanja" orodja pri privzetih 80 odstotkih. To pomeni, da je skupina upoštevala vse obraze, ki so bili 80-odstotno podobni policijski bazi podatkov. Vendar je vredno poudariti, da Amazon uporablja isti prag v primeru na svoji spletni strani, ki prikazuje, kako se lahko obrazi zaposlenih ujemajo z njihovimi ID značkami. Lindsey je dejala, da Amazon v primeru policijskih oddelkov priporoča uvedbo praga 95-odstotne podobnosti, da bi se izognili tovrstnim napakam.
Amazon je bil že prej deležen kritik zaradi prodaje Rekognitiona. Maja je 24 skupin za državljanske svoboščine, ki jih vodi ACLU, napisalo pismo izvršnemu direktorju Amazona Jeffu Bezosu, v katerem je zahtevalo, da se programska oprema preneha prodajati organom pregona. Skupine so izrazile zaskrbljenost, da bi programsko opremo lahko uporabili za nadzor protestnikov, priseljencev ali splošnih članov javnosti, ne pa samo policijskih osumljencev. Zaposleni v Amazonu, vlagatelji in akademiki so od takrat Amazonu postavljali podobne zahteve.
Zaenkrat pa se zdi, da to ni v načrtu spletnega velikana. Kot je povedal tiskovni predstavnik Amazona, "še vedno smo navdušeni nad tem, kako je lahko analiza slik in videa gonilo dobrega v svetu."
Posodobljeno 27. julija: Kongres od Amazona zahteva odgovore glede napak, ki jih je naredila njegova programska oprema Rekognition.
Priporočila urednikov
- Joj! Nekateri člani Amazon Prime se soočajo s 43-odstotnim dvigom cen
- Kako gledati, kako generalni direktorji Facebooka, Googla, Amazona in Applea pričajo kongresu
- Amazon, Apple, Facebook in Google bodo julija pričali pred kongresom
- sen. Josh Hawley poziva k kazenski protimonopolni preiskavi Amazona
- Ameriško vojaško prepoznavanje obraza bi lahko identificiralo ljudi z razdalje 1 km
Nadgradite svoj življenjski slogDigitalni trendi bralcem pomagajo slediti hitremu svetu tehnologije z vsemi najnovejšimi novicami, zabavnimi ocenami izdelkov, pronicljivimi uvodniki in enkratnimi vpogledi v vsebine.
