Az Amazon esetleg vissza akar térni ehhez a rajzasztalhoz. Egy arcfelismerő eszköz, amelyet a kiskereskedelmi óriás jelenleg kínál a fejlesztőknek elég nagy hiba az American Civil Liberties Union (ACLU) által végzett tesztben – írja a The New York Times. Ahelyett, hogy 28 kongresszusi tagot azonosított volna az ország törvényhozó ágának tagjaként, az eszköz ezeket a személyeket a rendőrség gyanúsítottjai közé sorolta. Tovább rontja a helyzetet, hogy aránytalanul sok afro-amerikai és latin-amerikai kongresszusi tag volt helytelenül. azonosított, és kérdéseket vet fel azzal kapcsolatban, hogy a faji profilalkotás meddig ágyazódott be még a gépi tanulásunkba is szoftver.
A Kongresszus most választ akar kapni. A tévesen azonosított törvényhozók közül öt „azonnali” találkozót kér az Amazon vezérigazgatójától, Jeff Bezostól. Július 26-án, csütörtökön a képviselők. Jimmy Gomez, John Lewis, Luis Gutierrez és Mark DeSaulnier, valamint Sen. Edward Markey leveleket küldött az online kiskereskedelmi óriásnak, amelyben megkérdezte, miért nem egyeznek. A téves személyazonosság eseteinek személyes hatásain túl azonban a kongresszusi képviselők ezt kérik arra a kérdésre válaszol, hogy „hogyan lehet kezelni ennek a technológiának a hibáit a pontatlanság elkerülése érdekében eredmények."
Ajánlott videók
Az Amazon egyelőre nem jelezte, hogy vezérigazgatója elfogadja-e ezeket a találkozókat.
Külön nyilatkozatban a Rep. G.K. Butterfield megjegyezte: „Aggasztanak a technológiával kapcsolatos pontatlan eredmények, mivel vannak világos vakfoltok, amelyek nem kívánt következményekkel járnak, kifejezetten az emberek számára szín. Bár ennek a technológiának nagy horderejű gazdasági potenciálja lehet, arra biztatom az Amazont, hogy jobban képezze felhasználóit ennek a használatának legjobb gyakorlatairól. technológiát, legyen nyitott és őszinte annak korlátaival kapcsolatban, és vegyen fel több színes alkalmazottat, akik megfelelően tudnak segíteni ennek a hibának a megoldásában. technológia."
Összefüggő
- Az Amazon Prime-tagok egy ingyenes csomag színes Destiny 2 egzotikumot igényelhetnek
- A kisvállalkozások tulajdonosai felszólítják a Kongresszust, hogy grillezzen az Amazon Bezos-t
- Az Amazon 1 évre megtiltja a rendőrségnek az arcfelismerő tech Rekognition használatát
A tévesen azonosított képviselők között volt képviselő. John Lewis és Bobby Rush, mindketten jól ismert polgárjogi vezetők és a Kongresszusi Black Caucus tagjai. De ahelyett, hogy választott képviselőként ismerték volna el, ezt a két férfit (26 másik emberrel együtt) hamisan bűnözőként jelölték meg. Ezek a hibák akkor következtek be, amikor az ACLU az Amazon szoftverét felhasználva elemezte a Kongresszus összes tagjának képeit egy 25 000 nyilvánosan hozzáférhető bögrét tartalmazó adatbázis alapján. Ez azt eredményezte, hogy a 28 kongresszusi tagot helytelenül törvénysértőként azonosították, ami 5 százalékos hibaarányt jelent.
„Ez a teszt megerősíti, hogy az arcfelismerés hibás, elfogult és veszélyes” – mondta Jacob Snow, az észak-kaliforniai ACLU technológiai és polgári jogi ügyvédje a The New York Timesnak.
A tesztre reagálva Nina Lindsey, az Amazon Web Services szóvivője elmondta, hogy az ACLU az arcegyeztető eszközt (ún. Amazon felismerés) az Amazon ajánlásaitól eltérően. „Érdemes megjegyezni, hogy valós helyzetekben az Amazon Rekognitiont szinte kizárólag a mezőben, és lehetővé teszi az embereknek, hogy gyorsan áttekintsék és mérlegeljék a lehetőségeket az ítélőképességük alapján” – mondta Lindsey a nyilatkozat.
Rámutatott továbbá, hogy az ACLU az eszköz „bizalmi küszöbét” a 80 százalékos alapértelmezett értéken tartotta. Ez azt jelenti, hogy a csoport minden olyan arcot figyelembe vett, amely 80 százalékban hasonlított a rendőrségi adatbázishoz. Érdemes azonban felhívni a figyelmet arra, hogy az Amazon ugyanezt a küszöböt használja a webhelyén található példában, amely bemutatja, hogyan lehet az alkalmazottak arcát az azonosító jelvényükkel párosítani. Lindsey elmondta, hogy a rendőrségi osztályok esetében az Amazon 95 százalékos hasonlósági küszöb bevezetését javasolja az ilyen jellegű hibák elkerülése érdekében.
Az Amazont korábban a Rekognition eladása miatt bírálták. Májusban az ACLU vezette 24 polgári jogi csoport levelet írt az Amazon vezérigazgatójának, Jeff Bezosnak, amelyben azt kérték, hogy szüntessék meg a szoftver értékesítését a bűnüldöző szerveknek. A csoportok aggodalmukat fejezték ki amiatt, hogy a szoftvert tüntetők, bevándorlók vagy a nyilvánosság általános tagjainak megfigyelésére használhatják, nem csak a rendőrség gyanúsítottjait. Az Amazon alkalmazottai, befektetői és oktatói azóta hasonló követeléseket támasztanak az Amazonnal szemben.
Egyelőre azonban úgy tűnik, hogy ez nincs benne a webóriás kártyáiban. Ahogy az Amazon szóvivője elmondta: „Továbbra is izgatottak vagyunk azzal kapcsolatban, hogy a kép- és videóelemzés miként vezethet a világ javára.”
Frissítve július 27-én: A Kongresszus válaszokat követel az Amazontól a Rekognition szoftver által elkövetett hibákkal kapcsolatban.
Szerkesztői ajánlások
- Jaj! Néhány Amazon Prime-tag 43%-os áremelkedéssel néz szembe
- Hogyan nézhetjük meg, hogy a Facebook, a Google, az Amazon és az Apple vezérigazgatói tanúskodnak a Kongresszus előtt
- Az Amazon, az Apple, a Facebook és a Google júliusban tanúskodnak a kongresszus előtt
- Sen. Josh Hawley trösztellenes nyomozást kér az Amazon ellen
- Az amerikai katonai arcfelismerés 1 km-es távolságból képes azonosítani az embereket
Frissítse életmódjátA Digital Trends segítségével az olvasók nyomon követhetik a technológia rohanó világát a legfrissebb hírekkel, szórakoztató termékismertetőkkel, éleslátó szerkesztőségekkel és egyedülálló betekintésekkel.
