Amazon, можливо, захоче повернутися до креслярської дошки для цього. Інструмент розпізнавання облич, який гігант роздрібної торгівлі зараз пропонує розробникам цілком помилка у тесті, проведеному Американським союзом громадянських свобод (ACLU), повідомляє The New York Times. Замість того, щоб ідентифікувати 28 членів Конгресу як членів законодавчої гілки влади країни, інструмент натомість класифікував цих осіб як підозрюваних поліції. Що ще гірше, непропорційна кількість афроамериканських і латиноамериканських членів Конгресу були неправильними виявлено, що викликає питання про те, наскільки расове профілювання вкоренилося навіть у нашому машинному навчанні програмне забезпечення.
Тепер Конгрес хоче отримати відповіді. П'ятеро з помилково впізнаних законодавців вимагають «негайної» зустрічі з генеральним директором Amazon Джеффом Безосом. У четвер, 26 липня, Респ. Джиммі Гомес, Джон Льюїс, Луїс Гутьєррес і Марк Де Солньє, а також сенатор. Едвард Маркі надіслав листи до гіганта онлайн-роздрібної торгівлі, запитуючи, чому вони не відповідають. Але крім особистих наслідків цих випадків помилкової ідентифікації, конгресмени вимагають відповіді на питання «як усунути недоліки цієї технології, щоб запобігти неточному результати».
Рекомендовані відео
Amazon поки не вказав, чи погодиться її виконавчий директор на ці зустрічі.
В окремій заяві Респ. Г.К. Баттерфілд зазначив: «Мене турбують неточні результати, пов’язані з цією технологією, оскільки існують явні сліпі зони, які матимуть небажані наслідки саме для людей колір. Хоча ця технологія може мати далекосяжний економічний потенціал, я закликаю Amazon краще навчати своїх користувачів найкращим практикам використання цього технологію, будьте відкритими та чесними щодо її обмежень і найміть більше кольорових працівників, які можуть належним чином допомогти у вирішенні недоліків цього технології».
Пов'язані
- Учасники Amazon Prime можуть отримати безкоштовний пакет барвистої екзотики Destiny 2
- Власники малого бізнесу закликають Конгрес приготувати Безоса з Amazon
- Amazon забороняє поліції використовувати технологію розпізнавання обличчя Rekognition на 1 рік
Серед помилково впізнаних законодавців були Респ. Джон Льюїс і Боббі Раш, обидва з яких є відомими борцями за громадянські права та членами Конгресу Black Caucus. Але замість того, щоб бути визнаними виборними представниками, цих двох чоловіків (разом з 26 іншими) помилково позначили як злочинців. Ці помилки сталися, коли ACLU використовував програмне забезпечення Amazon для аналізу зображень усіх членів Конгресу в базі даних із 25 000 загальнодоступних фотографій. Це призвело до того, що 28 членів Конгресу були неправильно ідентифіковані як порушники закону, що становить 5 відсотків помилок.
«Цей тест підтверджує, що розпізнавання облич є помилковим, упередженим і небезпечним», — сказав The New York Times Джейкоб Сноу, юрист з питань технологій і громадянських прав з ACLU Північної Каліфорнії.
У відповідь на тест Ніна Ліндсі, прес-секретар Amazon Web Services, сказала, що ACLU використовував інструмент зіставлення облич (так званий Amazon Rekognition) відрізняється від рекомендацій Amazon. «Варто зазначити, що в реальних сценаріях Amazon Rekognition майже виключно використовується, щоб допомогти звузити і дозволяють людям оперативно переглядати та розглядати варіанти, використовуючи власне судження», – сказав Ліндсі в заява.
Крім того, вона зазначила, що ACLU зберіг «поріг довіри» інструменту на рівні за замовчуванням 80 відсотків. Це означає, що група брала до уваги будь-яке обличчя, яке на 80 відсотків збігалося з поліцейською базою даних. Однак варто зазначити, що Amazon використовує той самий поріг у прикладі на своєму веб-сайті, показуючи, як обличчя працівників можна порівняти з їхніми ідентифікаційними значками. Ліндсі сказав, що у випадку з поліцейськими департаментами Amazon рекомендує встановити поріг у 95 відсотків подібності, щоб уникнути подібних помилок.
Раніше Amazon зазнав критики за продаж Rekognition. У травні 24 групи громадянських свобод на чолі з ACLU написали листа генеральному директору Amazon Джеффу Безосу з вимогою припинити продаж програмного забезпечення правоохоронним органам. Групи висловили занепокоєння, що програмне забезпечення може використовуватися для стеження за протестувальниками, іммігрантами або широкими представниками громадськості, а не лише за підозрюваними поліцією. З тих пір співробітники Amazon, інвестори та науковці висували подібні вимоги до Amazon.
Однак поки що, здається, це не в планах веб-гіганта. Як сказав представник Amazon, «ми продовжуємо радіти тому, як аналіз зображень і відео може стати рушієм добра у світі».
Оновлено 27 липня: Конгрес вимагає від Amazon відповідей щодо помилок, допущених її програмним забезпеченням Rekognition.
Рекомендації редакції
- Ой! Деякі учасники Amazon Prime зіткнулися з підвищенням цін на 43%.
- Як дивитися, як генеральні директори Facebook, Google, Amazon і Apple виступають перед Конгресом
- Amazon, Apple, Facebook і Google дадуть свідчення перед Конгресом у липні
- Сен. Джош Хоулі вимагає кримінального антимонопольного розслідування щодо Amazon
- Військова система розпізнавання облич США могла ідентифікувати людей на відстані 1 км
Оновіть свій спосіб життяDigital Trends допомагає читачам стежити за динамічним світом технологій завдяки всім останнім новинам, цікавим оглядам продуктів, проникливим редакційним статтям і унікальним у своєму роді коротким оглядам.
