Amazon, возможно, захочет вернуться к чертежной доске для этого проекта. Инструмент распознавания лиц, который розничный гигант в настоящее время предлагает разработчикам, совсем ошибка в тесте, проведенном Американским союзом гражданских свобод (ACLU), сообщает The New York Times. Вместо того, чтобы идентифицировать 28 членов Конгресса как членов законодательной власти страны, инструмент классифицировал этих лиц как подозреваемых в полиции. Что еще хуже, непропорционально большое число членов Конгресса афроамериканцев и латиноамериканцев были ошибочно выявлены, что поднимает вопрос о том, насколько глубоко расовое профилирование укоренилось даже в нашем машинном обучении. программное обеспечение.
Теперь Конгресс хочет ответов. Пятеро из ошибочно идентифицированных законодателей требуют «немедленной» встречи с генеральным директором Amazon Джеффом Безосом. В четверг, 26 июля, депутаты. Джимми Гомес, Джон Льюис, Луис Гутьеррес и Марк ДеСолнье, а также сенатор. Эдвард Марки отправил письма гиганту онлайн-торговли с вопросом, почему они не совпадают. Но помимо личных последствий этих случаев ошибочной идентификации, конгрессмены просят ответы на вопрос «как устранить недостатки этой технологии, чтобы предотвратить неточные результаты».
Рекомендуемые видео
Amazon пока не сообщила, согласится ли ее генеральный директор на эти встречи.
В отдельном заявлении депутат. Г.К. Баттерфилд отметил: «Меня беспокоят неточные результаты, связанные с этой технологией. поскольку существуют явные «слепые зоны», которые будут иметь непредвиденные последствия, особенно для людей цвет. Хотя эта технология может иметь далеко идущий экономический потенциал, я призываю Amazon лучше обучать своих пользователей передовым методам использования этой технологии. технологии, будьте открыты и откровенны в отношении ее ограничений и нанимайте больше цветных сотрудников, которые смогут должным образом помочь в устранении недостатков этой технологии. технологии."
Связанный
- Члены Amazon Prime могут претендовать на бесплатный пакет красочной экзотики Destiny 2.
- Владельцы малого бизнеса призывают Конгресс раскритиковать Безоса из Amazon
- Amazon запретила полиции использовать технологию распознавания лиц Rekognition на 1 год
Среди ошибочно идентифицированных законодателей были представители. Джон Льюис и Бобби Раш, оба являются известными борцами за гражданские права и членами фракции чернокожих в Конгрессе. Но вместо того, чтобы быть признанными избранными представителями, эти двое мужчин (вместе с 26 другими людьми) были ложно признаны преступниками. Эти ошибки произошли, когда ACLU воспользовалась программным обеспечением Amazon для анализа изображений всех членов Конгресса по базе данных из 25 000 общедоступных фотографий. В результате 28 членов Конгресса были ошибочно идентифицированы как нарушители закона, что составляет 5 процентов ошибок.
«Этот тест подтверждает, что распознавание лиц ошибочно, предвзято и опасно», — сказал The New York Times Джейкоб Сноу, юрист по технологиям и гражданским свободам из ACLU Северной Калифорнии.
В ответ на тест Нина Линдси, представитель Amazon Web Services, заявила, что ACLU использовал инструмент сопоставления лиц (называемый Признание Амазонки) в отличие от рекомендаций Amazon. «Следует отметить, что в реальных сценариях Amazon Rekognition почти исключительно используется для поле и позволить людям оперативно просматривать и рассматривать варианты, используя свое суждение», — сказала Линдси в своем докладе. заявление.
Она также отметила, что ACLU сохранил «порог уверенности» инструмента на уровне 80 процентов по умолчанию. Это означает, что группа учитывала любое лицо, совпадающее с 80-процентным совпадением с полицейской базой данных. Однако стоит отметить, что Amazon использует тот же порог в примере на своем веб-сайте, показывающем, как лица сотрудников могут быть сопоставлены с их идентификационными бейджами. Линдси сказала, что в случае с полицейскими управлениями Amazon рекомендует установить порог сходства в 95 процентов, чтобы избежать ошибок такого рода.
Amazon ранее подвергался критике за продажу Rekognition. В мае 24 группы по защите гражданских свобод, возглавляемые ACLU, написали письмо генеральному директору Amazon Джеффу Безосу с просьбой прекратить продажу программного обеспечения правоохранительным органам. Группы выразили обеспокоенность тем, что программное обеспечение может использоваться для слежки за протестующими, иммигрантами или обычными представителями общественности, а не только за подозреваемыми в полиции. С тех пор сотрудники Amazon, инвесторы и ученые выдвинули аналогичные требования к Amazon.
Однако на данный момент это, похоже, не входит в планы веб-гиганта. Как сказал представитель Amazon: «Мы по-прежнему воодушевлены тем, как анализ изображений и видео может стать движущей силой добра в мире».
Обновлено 27 июля: Конгресс требует от Amazon ответов относительно ошибок, допущенных ее программным обеспечением Rekognition.
Рекомендации редакции
- Ой! Некоторым участникам Amazon Prime грозит повышение цен на 43%
- Как посмотреть, как генеральные директора Facebook, Google, Amazon и Apple выступают перед Конгрессом
- Amazon, Apple, Facebook и Google дадут показания перед Конгрессом в июле
- Сен. Джош Хоули призывает провести уголовное антимонопольное расследование в отношении Amazon
- Система распознавания лиц в армии США сможет идентифицировать людей на расстоянии 1 км
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, содержательным редакционным статьям и уникальным кратким обзорам.
