Амазон ће можда желети да се врати на таблу за цртање за овај. Алат за препознавање лица који малопродајни гигант тренутно нуди програмерима прилично грешка у тесту који је спровела Америчка унија за грађанске слободе (АЦЛУ), преноси Тхе Нев Иорк Тимес. Уместо да идентификује 28 чланова Конгреса као чланове законодавног огранка земље, алат је уместо тога класификовао ове особе као осумњичене полиције. Да ствар буде гора, несразмеран број афроамеричких и латиноамеричких чланова Конгреса је био нетачан идентификовали, постављајући питања колико се расно профилисање уградило чак и у наше машинско учење софтвер.
Сада, Конгрес жели одговоре. Пет погрешно идентификованих законодаваца захтева „одмах“ састанак са извршним директором Амазона Џефом Безосом. У четвртак, 26. јула, реп. Џими Гомез, Џон Луис, Луис Гутијерез и Марк Де Солније, као и Сен. Едвард Марки, послао је писма онлајн малопродајном гиганту са питањем зашто се не подударају. Али осим личних ефеката ових случајева погрешног идентитета, конгресмени траже одговоре о томе „како се позабавити недостацима ове технологије како би се спречиле нетачне исходи.”
Препоручени видео снимци
Амазон још није назначио да ли ће његов извршни директор прихватити ове састанке.
У посебном саопштењу, Реп. Г.К. Батерфилд је приметио: „Узнемирен сам нетачним резултатима повезаним са овом технологијом, пошто постоје јасне слепе тачке које ће имати нежељене последице посебно за људе од боја. Иако би ова технологија могла имати далекосежан економски потенцијал, охрабрујем Амазон да боље обучи своје кориснике о најбољим праксама за коришћење овог технологије, будите отворени и отворени у вези са њеним ограничењима и ангажујте више радника у боји који могу на прави начин помоћи у отклањању недостатака овог технологија.”
Повезан
- Чланови Амазон Приме могу затражити бесплатан пакет шарених Дестини 2 егзотика
- Власници малих предузећа позивају Конгрес да пече Амазоновог Безоса
- Амазон забрањује полицији да користи технологију препознавања лица Рекогнитион на годину дана
Међу погрешно идентификованим посланицима били су и представници. Џон Луис и Боби Раш, обојица су познати лидери за грађанска права и чланови Конгресног клуба црнаца. Али уместо да буду признати као изабрани представници, ова два човека (заједно са још 26 других), лажно су означени као криминалци. Ове грешке су се догодиле када је АЦЛУ узео Амазонов софтвер да анализира слике свих чланова Конгреса у бази података од 25.000 јавно доступних снимака. То је довело до тога да је 28 чланова Конгреса погрешно идентификовано као прекршиоци закона, што представља стопу грешке од 5 процената.
„Овај тест потврђује да је препознавање лица погрешно, пристрасно и опасно“, рекао је за Њујорк тајмс Џејкоб Сноу, адвокат за технологије и грађанске слободе из АЦЛУ-а Северне Калифорније.
Као одговор на тест, Нина Линдсеи, портпаролка Амазон Веб Сервицес, рекла је да је АЦЛУ користио алатку за подударање лица (тзв. Амазон Рекогнитион) другачије од Амазонових препорука. „Вреди напоменути да се у стварним сценаријима Амазон Рекогнитион скоро искључиво користи да помогне у сужавању пољу и омогућити људима да експедитивно прегледају и размотре опције користећи своје расуђивање“, рекла је Линдзи у изјава.
Она је даље истакла да је АЦЛУ задржао „праг поверења“ алата на подразумеваној вредности од 80 процената. То значи да је група узела у обзир свако лице које се подудара као 80 посто слично полицијској бази података. Међутим, вреди истаћи да Амазон користи исти праг у примеру на својој веб страници, показујући како се лица запослених могу упоредити са њиховим ИД значкама. Линдзи је рекла да у случају полицијских управа, Амазон препоручује да се примени праг од 95 одсто сличности како би се избегле овакве грешке.
Амазон је раније био на удару критике због продаје Рекогнитион-а. У мају су 24 групе за грађанске слободе, предвођене АЦЛУ-ом, написале писмо генералном директору Амазона Џефу Безосу тражећи да софтвер престане да се продаје агенцијама за спровођење закона. Групе су изразиле забринутост да би софтвер могао да се користи за праћење демонстраната, имиграната или опште јавности, а не само осумњичених полицајаца. Запослени у Амазону, инвеститори и академици су од тада поставили сличне захтеве Амазону.
Међутим, за сада се чини да то није у плану за веб гиганта. Као што је портпарол Амазона рекао: „Остајемо узбуђени због тога како анализа слика и видео записа може бити покретач добра у свету.
Ажурирано 27. јула: Конгрес захтева одговоре од Амазона у вези са грешкама које је направио његов софтвер Рекогнитион.
Препоруке уредника
- Јао! Неки чланови Амазон Приме суочавају се са повећањем цена од 43%.
- Како гледати како извршни директори Фејсбука, Гугла, Амазона и Епла сведоче Конгресу
- Амазон, Аппле, Фацебоок и Гоогле ће сведочити пред Конгресом у јулу
- Сен. Јосх Хавлеи позива на криминалну антимонополску истрагу у Амазону
- Америчко војно препознавање лица могло би да идентификује људе на удаљености од 1 км
Надоградите свој животни стилДигитални трендови помажу читаоцима да прате брзи свет технологије са свим најновијим вестима, забавним рецензијама производа, проницљивим уводницима и јединственим кратким прегледима.
