Amazon sa možno bude chcieť vrátiť k rysovacej doske. Nástroj na rozpoznávanie tváre, ktorý maloobchodný gigant v súčasnosti ponúka vývojárom celkom chyba v teste uskutočnenom Americkou úniou občianskych slobôd (ACLU), informuje The New York Times. Namiesto identifikácie 28 členov Kongresu ako členov zákonodarnej zložky krajiny tento nástroj namiesto toho klasifikoval týchto jednotlivcov ako podozrivých z polície. Aby toho nebolo málo, neprimeraný počet členov afroamerického a latinskoamerického kongresu bol nesprávne identifikované, čo vyvoláva otázky, do akej miery sa rasové profilovanie začlenilo aj do nášho strojového učenia softvér.
Teraz chce Kongres odpovede. Piati z nesprávne identifikovaných zákonodarcov žiadajú o „okamžité“ stretnutie s generálnym riaditeľom Amazonu Jeffom Bezosom. Vo štvrtok 26. júla sa Res. Jimmy Gomez, John Lewis, Luis Gutierrez a Mark DeSaulnier, ako aj Sen. Edward Markey poslal listy online maloobchodnému gigantovi s otázkou, prečo sa nezhodujú. Kongresmani však žiadajú okrem osobných účinkov týchto prípadov pomýlenej identity odpovede na otázku „ako riešiť nedostatky tejto technológie, aby sa predišlo nepresnostiam výsledky.”
Odporúčané videá
Amazon zatiaľ neuviedol, či jeho generálny riaditeľ tieto stretnutia akceptuje.
V samostatnom vyhlásení Rep. G.K. Butterfield poznamenal: „Znepokojujú ma nepresné výsledky spojené s touto technológiou, pretože existujú jasné slepé miesta, ktoré budú mať neúmyselné dôsledky špeciálne pre ľudí z farba. Aj keď by táto technológia mohla mať ďalekosiahly ekonomický potenciál, nabádam spoločnosť Amazon, aby lepšie školila svojich používateľov o osvedčených postupoch používania technológie, buďte otvorení a oboznámení s jej obmedzeniami a najmite viac farebných zamestnancov, ktorí môžu správne pomôcť s riešením nedostatkov tohto technológie.”
Súvisiace
- Členovia Amazon Prime si môžu nárokovať bezplatný balík farebných exotík Destiny 2
- Majitelia malých podnikov vyzývajú Kongres, aby griloval Bezos od Amazonu
- Amazon zakázal polícii používať technológiu rozpoznávania tváre Rekognition na 1 rok
Medzi nesprávne identifikovanými zákonodarcami boli Rep. John Lewis a Bobby Rush, obaja sú známymi lídrami v oblasti občianskych práv a členmi Kongresového čierneho výboru. Ale namiesto toho, aby boli uznaní za volených zástupcov, títo dvaja muži (spolu s 26 ďalšími) boli falošne označení za zločincov. K týmto chybám došlo, keď ACLU použila softvér Amazonu na analýzu obrázkov všetkých členov Kongresu s databázou 25 000 verejne prístupných záberov. To viedlo k tomu, že 28 členov Kongresu bolo nesprávne identifikovaných ako porušovatelia zákona, čo predstavuje 5-percentnú chybovosť.
„Tento test potvrdzuje, že rozpoznávanie tváre je chybné, neobjektívne a nebezpečné,“ povedal pre The New York Times Jacob Snow, právnik v oblasti technológií a občianskych slobôd z ACLU v Severnej Kalifornii.
V reakcii na test Nina Lindsey, hovorkyňa Amazon Web Services, uviedla, že ACLU použilo nástroj na porovnávanie tváre (tzv. Amazon Rekognition) odlišne od odporúčaní Amazonu. „Stojí za zmienku, že v scenároch reálneho sveta sa Amazon Rekognition takmer výlučne používa na zúženie poli a umožniť ľuďom, aby urýchlene preskúmali a zvážili možnosti na základe vlastného úsudku,“ uviedla Lindsey v a vyhlásenie.
Ďalej poukázala na to, že ACLU ponechala „prah spoľahlivosti“ nástroja na predvolenej hodnote 80 percent. To znamená, že skupina brala do úvahy akúkoľvek tvár, ktorá sa na 80 percent zhodovala s policajnou databázou. Stojí však za to zdôrazniť, že Amazon používa rovnakú hranicu v príklade na svojej webovej stránke, ktorý ukazuje, ako možno priradiť tváre zamestnancov k ich ID odznakom. Lindsey povedala, že v prípade policajných oddelení Amazon odporúča implementovať prah 95-percentnej podobnosti, aby sa predišlo takýmto chybám.
Amazon sa už predtým dostal pod paľbu za predaj Rekognition. V máji napísalo 24 skupín pre občianske slobody pod vedením ACLU list generálnemu riaditeľovi Amazonu Jeffovi Bezosovi so žiadosťou, aby sa softvér prestal predávať orgánom činným v trestnom konaní. Skupiny vyjadrili obavy, že softvér by sa mohol použiť na sledovanie demonštrantov, imigrantov alebo širokej verejnosti, a nie len podozrivých z polície. Zamestnanci Amazonu, investori a akademici odvtedy kladú podobné požiadavky na Amazon.
V súčasnosti sa však zdá, že to webový gigant nemá v pláne. Ako povedal hovorca Amazonu: „Sme nadšení z toho, ako môže byť analýza obrazu a videa hnacím motorom dobra vo svete.
Aktualizované 27. júla: Kongres požaduje od Amazonu odpovede týkajúce sa chýb, ktorých sa dopustil jeho softvér Rekognition.
Odporúčania redaktorov
- Ou! Niektorí členovia Amazon Prime čelia 43% zvýšeniu cien
- Ako sa pozerať na generálnych riaditeľov Facebooku, Google, Amazonu a Apple svedčia v Kongrese
- Amazon, Apple, Facebook a Google budú svedčiť pred Kongresom v júli
- Sen. Josh Hawley požaduje trestné protimonopolné vyšetrovanie Amazonu
- Americké vojenské rozpoznávanie tváre dokázalo identifikovať ľudí zo vzdialenosti 1 km
Zlepšite svoj životný štýlDigitálne trendy pomáhajú čitateľom mať prehľad o rýchlo sa rozvíjajúcom svete technológií so všetkými najnovšími správami, zábavnými recenziami produktov, užitočnými úvodníkmi a jedinečnými ukážkami.
