Amazon może chcieć wrócić do deski kreślarskiej w tym przypadku. Narzędzie do rozpoznawania twarzy, które gigant handlu detalicznego oferuje obecnie deweloperom całkiem błąd w teście przeprowadzonym przez Amerykańską Unię Wolności Obywatelskich (ACLU), jak podaje „The New York Times”. Zamiast identyfikować 28 członków Kongresu jako członków władzy ustawodawczej kraju, narzędzie zamiast tego sklasyfikowało te osoby jako podejrzane przez policję. Co gorsza, nieproporcjonalna liczba członków Kongresu pochodzenia afroamerykańskiego i latynoskiego nie miała racji zidentyfikowane, co rodzi pytania o to, jak daleko profilowanie rasowe zakorzeniło się nawet w naszym uczeniu maszynowym oprogramowanie.
Teraz Kongres chce odpowiedzi. Pięciu błędnie zidentyfikowanych prawodawców prosi o „natychmiastowe” spotkanie z dyrektorem generalnym Amazona, Jeffem Bezosem. W czwartek 26 lipca br. Jimmy Gomez, John Lewis, Luis Gutierrez i Mark DeSaulnier, a także senator. Edward Markey wysłał listy do giganta handlu internetowego z pytaniem, dlaczego były one niedopasowane. Ale poza osobistymi skutkami tych przypadków błędnej tożsamości, kongresmani proszą odpowiedzi na pytanie „jak zaadresować wady tej technologii, aby zapobiec niedokładnościom wyniki."
Polecane filmy
Amazon nie wskazał jeszcze, czy jego dyrektor naczelny zaakceptuje te spotkania.
W odrębnym oświadczeniu Rep. G.K. Butterfield zauważył: „Niepokoją mnie niedokładne wyniki związane z tą technologią, ponieważ istnieją wyraźne martwe punkty, które będą miały niezamierzone konsekwencje, szczególnie dla ludzi kolor. Choć technologia ta może mieć dalekosiężny potencjał gospodarczy, zachęcam firmę Amazon do lepszego szkolenia swoich użytkowników w zakresie najlepszych praktyk jej wykorzystania technologii, bądźcie otwarci i otwarcie informujcie o jej ograniczeniach oraz zatrudniajcie więcej kolorowych pracowników, którzy mogą właściwie pomóc w usunięciu wad tej technologii technologia."
Powiązany
- Członkowie Amazon Prime mogą odebrać darmową paczkę kolorowych egzotycznych przedmiotów Destiny 2
- Właściciele małych firm wzywają Kongres do grillowania Bezosa Amazona
- Amazon zakazuje policji korzystania z technologii rozpoznawania twarzy Rekognition na 1 rok
Wśród błędnie zidentyfikowanych prawodawców byli Rep. John Lewis i Bobby Rush, obaj są dobrze znanymi przywódcami praw obywatelskich i członkami Kongresu Czarnych Klubów. Zamiast jednak zostać uznanymi za wybranych przedstawicieli, tych dwóch mężczyzn (wraz z 26 innymi osobami) fałszywie oznaczono jako przestępców. Błędy te miały miejsce, gdy ACLU wykorzystała oprogramowanie Amazona do analizy zdjęć wszystkich członków Kongresu w oparciu o bazę danych zawierającą 25 000 publicznie dostępnych zdjęć. W rezultacie 28 członków Kongresu zostało błędnie zidentyfikowanych jako przestępcy, co oznacza 5-procentowy poziom błędu.
„Ten test potwierdza, że rozpoznawanie twarzy jest wadliwe, stronnicze i niebezpieczne” – powiedział dziennikowi The New York Times Jacob Snow, prawnik ds. technologii i wolności obywatelskich z ACLU w Północnej Kalifornii.
W odpowiedzi na test Nina Lindsey, rzeczniczka Amazon Web Services, powiedziała, że ACLU korzystała z narzędzia dopasowywania twarzy (tzw. Uznanie Amazona) inaczej niż zalecenia Amazona. „Warto zauważyć, że w rzeczywistych scenariuszach Amazon Rekognition jest używany prawie wyłącznie w celu zawężenia zakresu dziedzinie i pozwolić ludziom na szybki przegląd i rozważenie opcji na podstawie własnego osądu” – Lindsey stwierdziła w: oświadczenie.
Następnie wskazała, że ACLU utrzymała „próg ufności” narzędzia na domyślnym poziomie 80 procent. Oznacza to, że grupa wzięła pod uwagę każdą dopasowaną twarz w 80 procentach podobną do policyjnej bazy danych. Warto jednak zaznaczyć, że Amazon na przykładzie na swojej stronie internetowej wykorzystuje ten sam próg, pokazując, jak można dopasować twarze pracowników do identyfikatorów. Lindsey stwierdziła, że w przypadku wydziałów policji Amazon zaleca wprowadzenie progu 95% podobieństwa, aby uniknąć tego rodzaju błędów.
Amazon był już wcześniej krytykowany za sprzedaż Rekognition. W maju 24 grupy wolności obywatelskich pod przewodnictwem ACLU napisały list do dyrektora generalnego Amazona, Jeffa Bezosa, żądając zaprzestania sprzedaży oprogramowania organom ścigania. Grupy wyraziły obawy, że oprogramowanie może zostać wykorzystane do inwigilacji protestujących, imigrantów lub ogółu społeczeństwa, a nie tylko podejrzanych przez policję. Od tego czasu pracownicy, inwestorzy i naukowcy Amazona stawiali podobne żądania Amazonowi.
Na razie jednak nie wydaje się to prawdopodobne dla internetowego giganta. Jak powiedział rzecznik Amazona: „Jesteśmy podekscytowani tym, jak analiza obrazów i wideo może wpłynąć na dobro świata”.
Aktualizacja 27 lipca: Kongres żąda od Amazon odpowiedzi w sprawie błędów popełnionych przez oprogramowanie Rekognition.
Zalecenia redaktorów
- Auć! Niektórym członkom Amazon Prime grozi podwyżka cen o 43%.
- Jak oglądać zeznania dyrektorów generalnych Facebooka, Google, Amazon i Apple przed Kongresem
- Amazon, Apple, Facebook i Google złożą zeznania przed Kongresem w lipcu
- Sen. Josh Hawley wzywa do wszczęcia dochodzenia w sprawie prawa antymonopolowego wobec Amazona
- System rozpoznawania twarzy armii amerykańskiej może identyfikować osoby z odległości 1 km
Ulepsz swój styl życiaDigital Trends pomaga czytelnikom śledzić szybko rozwijający się świat technologii dzięki najnowszym wiadomościom, zabawnym recenzjom produktów, wnikliwym artykułom redakcyjnym i jedynym w swoim rodzaju zajawkom.
