Amazon se možná bude chtít vrátit k rýsovacímu prknu. Nástroj pro rozpoznávání obličeje, který maloobchodní gigant v současné době nabízí vývojářům docela chyba v testu, který provedla American Civil Liberties Union (ACLU), uvádí The New York Times. Namísto identifikace 28 členů Kongresu jako členů zákonodárné složky země tento nástroj namísto toho klasifikoval tyto osoby jako podezřelé z policie. Aby toho nebylo málo, neúměrný počet afroamerických a latinskoamerických členů kongresu byl nesprávně identifikovaných, což vyvolává otázky, do jaké míry se rasové profilování začlenilo i do našeho strojového učení software.
Nyní chce Kongres odpovědi. Pět z nesprávně identifikovaných zákonodárců žádá o „okamžitou“ schůzku s generálním ředitelem Amazonu Jeffem Bezosem. Ve čtvrtek 26. července Reps. Jimmy Gomez, John Lewis, Luis Gutierrez a Mark DeSaulnier, stejně jako Sen. Edward Markey poslal dopisy online maloobchodnímu gigantu s dotazem, proč se neshodují. Ale kromě osobních dopadů těchto případů chybné identity požadují kongresmani odpovědi na otázku „jak řešit vady této technologie, aby se předešlo nepřesnosti výsledky.”
Doporučená videa
Amazon zatím neuvedl, zda jeho generální ředitel tato setkání přijme.
V samostatném prohlášení Rep. G.K. Butterfield poznamenal: „Znepokojují mě nepřesné výsledky spojené s touto technologií, protože existují jasná slepá místa, která budou mít nezamýšlené důsledky konkrétně pro lidi z barva. I když by tato technologie mohla mít dalekosáhlý ekonomický potenciál, vybízím Amazon, aby lépe školil své uživatele o osvědčených postupech pro jejich používání technologie, buďte otevření a upřímní ohledně jejích omezení a najměte si více barevných zaměstnanců, kteří mohou náležitě pomoci s řešením nedostatků tohoto technika."
Příbuzný
- Členové Amazon Prime mohou získat zdarma balíček barevných exotických Destiny 2
- Majitelé malých podniků vyzývají Kongres, aby griloval Amazon Bezos
- Amazon zakázal policii používat technologii rozpoznávání obličeje Rekognition na 1 rok
Mezi špatně identifikovanými zákonodárci byli Reps. John Lewis a Bobby Rush, oba jsou známí vůdci občanských práv a členové Kongresového černého výboru. Ale místo toho, aby byli uznáni jako volení zástupci, byli tito dva muži (spolu s 26 dalšími) falešně označeni jako zločinci. K těmto chybám došlo, když ACLU vzala software Amazonu k analýze snímků všech členů Kongresu proti databázi 25 000 veřejně přístupných snímků. To vedlo k tomu, že 28 členů Kongresu bylo nesprávně označeno jako porušovatelé zákona, což představuje 5procentní chybovost.
„Tento test potvrzuje, že rozpoznávání obličeje je chybné, zaujaté a nebezpečné,“ řekl deníku The New York Times Jacob Snow, právník v oblasti technologií a občanských svobod z ACLU v Severní Kalifornii.
V reakci na test Nina Lindsey, mluvčí Amazon Web Services, uvedla, že ACLU použilo nástroj pro rozpoznávání obličejů (tzv. Amazon Rekognition) odlišně od doporučení Amazonu. „Stojí za zmínku, že ve scénářích reálného světa se Amazon Rekognition téměř výhradně používá k omezení pole a umožnit lidem rychle přezkoumat a zvážit možnosti na základě jejich úsudku,“ uvedla Lindsey v a prohlášení.
Dále poukázala na to, že ACLU udržovala „práh spolehlivosti“ nástroje na výchozí hodnotě 80 procent. To znamená, že skupina vzala v úvahu všechny tváře shodné s 80 procenty podobné policejní databázi. Stojí však za zmínku, že Amazon používá stejný práh v příkladu na svém webu, který ukazuje, jak lze tváře zaměstnanců porovnat s jejich ID odznaky. Lindsey řekl, že v případě policejních oddělení Amazon doporučuje, aby byl implementován práh 95procentní podobnosti, aby se předešlo těmto druhům chyb.
Amazon se již dříve dostal pod palbu kvůli prodeji Rekognition. V květnu 24 skupin pro občanské svobody v čele s ACLU napsalo dopis generálnímu řediteli Amazonu Jeffu Bezosovi, v němž požadovalo, aby se software přestal prodávat orgánům činným v trestním řízení. Skupiny vyjádřily obavy, že by software mohl být použit k sledování demonstrantů, přistěhovalců nebo široké veřejnosti, nikoli pouze podezřelých z policie. Zaměstnanci, investoři a akademici Amazonu od té doby kladli podobné požadavky na Amazon.
V současné době se však zdá, že to webový gigant nemá v plánu. Jak řekl mluvčí Amazonu: „Zůstáváme nadšeni z toho, jak může být analýza obrazu a videa hnací silou dobra ve světě.“
Aktualizováno 27. července: Kongres požaduje od Amazonu odpovědi ohledně chyb, kterých se dopustil jeho software Rekognition.
Doporučení redakce
- Au! Někteří členové Amazon Prime čelí 43% zvýšení cen
- Jak sledovat, jak generální ředitelé společností Facebook, Google, Amazon a Apple svědčí Kongresu
- Amazon, Apple, Facebook a Google budou svědčit před Kongresem v červenci
- Sen. Josh Hawley požaduje kriminální antimonopolní vyšetřování Amazonu
- Americké vojenské rozpoznávání obličeje by mohlo identifikovat lidi ze vzdálenosti 1 km
Upgradujte svůj životní stylDigitální trendy pomáhají čtenářům mít přehled o rychle se měnícím světě technologií se všemi nejnovějšími zprávami, zábavnými recenzemi produktů, zasvěcenými úvodníky a jedinečnými náhledy.
