Amazon може да иска да се върне към чертожната дъска за това. Инструмент за лицево разпознаване, който търговският гигант в момента предлага на разработчиците доста грешка в тест, проведен от Американския съюз за граждански свободи (ACLU), съобщава The New York Times. Вместо да идентифицира 28 членове на Конгреса като членове на законодателната власт на страната, инструментът вместо това класифицира тези лица като заподозрени в полицията. За да влошат нещата, непропорционално голям брой афро-американски и латиноамерикански членове на Конгреса бяха неправилни идентифицирани, повдигайки въпроси доколко расовото профилиране се е вградило дори в нашето машинно обучение софтуер.
Сега Конгресът иска отговори. Петима от погрешно идентифицираните законодатели искат „незабавна“ среща с изпълнителния директор на Amazon Джеф Безос. В четвъртък, 26 юли, Респ. Джими Гомез, Джон Луис, Луис Гутиерес и Марк Де Солние, както и сенаторът. Едуард Марки изпрати писма до гиганта за онлайн търговия на дребно, питайки защо не съответстват. Но извън личните последици от тези случаи на погрешна самоличност, конгресмените искат отговори на въпроса „как да се справят с дефектите на тази технология, за да се предотвратят неточни резултати.”
Препоръчани видеоклипове
Amazon все още не е посочил дали изпълнителният директор ще приеме тези срещи.
В отделно изявление реп. Г.К. Бътърфийлд отбеляза: „Притеснен съм от неточните резултати, свързани с тази технология, тъй като има ясни слепи зони, които ще имат непредвидени последици специално за хората на цвят. Въпреки че тази технология може да има голям икономически потенциал, насърчавам Amazon да обучи по-добре своите потребители на най-добри практики за използване на това технология, бъдете открити и откровени за нейните ограничения и наемете повече цветнокожи служители, които могат правилно да помогнат при отстраняването на дефектите на това технология.”
Свързани
- Членовете на Amazon Prime могат да поискат безплатен пакет цветна екзотика на Destiny 2
- Собственици на малък бизнес призовават Конгреса да изпече Безос на Amazon
- Amazon забранява на полицията да използва технологията за лицево разпознаване Rekognition за 1 година
Сред погрешно идентифицираните депутати бяха представителите. Джон Луис и Боби Ръш, и двамата са добре известни лидери за граждански права и членове на Black Caucus в Конгреса. Но вместо да бъдат признати за избрани представители, тези двама мъже (заедно с още 26) бяха фалшиво обозначени като престъпници. Тези грешки се случиха, когато ACLU взе софтуера на Amazon, за да анализира изображения на всички членове на Конгреса срещу база данни от 25 000 публично достъпни снимки. Това доведе до неправилно идентифициране на 28-те членове на Конгреса като нарушители на закона, което представлява 5 процента грешка.
„Този тест потвърждава, че лицевото разпознаване е погрешно, предубедено и опасно“, каза Джейкъб Сноу, адвокат по технологии и граждански свободи в ACLU на Северна Калифорния, пред The New York Times.
В отговор на теста Нина Линдзи, говорител на Amazon Web Services, каза, че ACLU използва инструмента за съвпадение на лица (наречен Amazon Rekognition) различно от препоръките на Amazon. „Заслужава да се отбележи, че в сценарии от реалния свят Amazon Rekognition се използва почти изключително, за да помогне за стесняване на поле и позволява на хората експедитивно да преглеждат и обмислят опции, като използват своята преценка“, каза Линдзи в изявление.
Освен това тя изтъкна, че ACLU поддържа „прага на доверие“ на инструмента при стандартни 80 процента. Това означава, че групата е взела предвид всяко лице, съвпадащо като 80 процента подобно на полицейската база данни. Все пак си струва да се отбележи, че Amazon използва същия праг в пример на уебсайта си, показвайки как лицата на служителите могат да бъдат съпоставени с техните идентификационни значки. Линдзи каза, че в случай на полицейски управления Amazon препоръчва да се приложи праг от 95 процента сходство, за да се избегнат подобни грешки.
Преди това Amazon беше обект на критики за продажбата на Rekognition. През май 24 групи за граждански свободи, водени от ACLU, написаха писмо до главния изпълнителен директор на Amazon Джеф Безос с искане софтуерът да спре да се продава на правоприлагащите органи. Групите изразиха опасения, че софтуерът може да се използва за наблюдение на протестиращи, имигранти или общи членове на обществото, а не само на заподозрени полицейски лица. Служители, инвеститори и академици оттогава са отправили подобни искания към Amazon.
За момента обаче това не изглежда в картите за уеб гиганта. Както каза говорителят на Amazon, „Оставаме развълнувани от това как анализът на изображения и видео може да бъде двигател за добро в света.“
Актуализирано на 27 юли: Конгресът изисква отговори от Amazon относно грешките, допуснати от неговия софтуер Rekognition.
Препоръки на редакторите
- Ох! Някои членове на Amazon Prime са изправени пред повишение на цените с 43%.
- Как да гледате главните изпълнителни директори на Facebook, Google, Amazon и Apple да свидетелстват пред Конгреса
- Amazon, Apple, Facebook и Google ще свидетелстват пред Конгреса през юли
- Сен. Джош Хоули призовава за криминално антитръстово разследване на Amazon
- Американското военно лицево разпознаване може да идентифицира хора от 1 км
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
