A Amazon pode querer voltar à prancheta para este. Uma ferramenta de reconhecimento facial que a gigante do varejo oferece atualmente aos desenvolvedores bastante o erro em um teste conduzido pela União Americana pelas Liberdades Civis (ACLU), relata o The New York Times. Em vez de identificar 28 membros do Congresso como membros do poder legislativo do país, a ferramenta classificou estes indivíduos como suspeitos da polícia. Para piorar a situação, um número desproporcional de membros do Congresso afro-americanos e latinos foram incorrectamente identificado, levantando questões sobre até que ponto o perfil racial se incorporou até mesmo em nosso aprendizado de máquina Programas.
Agora, o Congresso quer respostas. Cinco dos legisladores identificados incorretamente estão solicitando uma reunião “imediata” com o CEO da Amazon, Jeff Bezos. Na quinta-feira, 26 de julho, os Reps. Jimmy Gomez, John Lewis, Luis Gutierrez e Mark DeSaulnier, bem como o senador. Edward Markey enviou cartas ao gigante do varejo online perguntando por que eles eram incompatíveis. Mas além dos pertences pessoais desses casos de troca de identidade, os parlamentares pedem respostas sobre “como resolver os defeitos desta tecnologia, a fim de evitar erros imprecisos resultados."
Vídeos recomendados
A Amazon ainda não indicou se o seu presidente-executivo aceitará essas reuniões.
Em comunicado separado, o deputado. G. K. Butterfield observou: “Estou preocupado com os resultados imprecisos associados a esta tecnologia, pois existem claros pontos cegos que terão consequências indesejadas especificamente para pessoas de cor. Embora esta tecnologia possa ter um potencial económico de longo alcance, incentivo a Amazon a formar melhor os seus utilizadores sobre as melhores práticas para a utilização desta tecnologia. tecnologia, ser aberto e direto sobre suas limitações e contratar mais funcionários negros que possam ajudar adequadamente a resolver os defeitos desta tecnologia."
Relacionado
- Os membros do Amazon Prime podem reivindicar um pacote gratuito de itens exóticos coloridos de Destiny 2
- Proprietários de pequenas empresas pedem ao Congresso que questione Bezos da Amazon
- Amazon proíbe a polícia de usar tecnologia de reconhecimento facial Rekognition por 1 ano
Entre os legisladores identificados incorretamente estavam os Reps. John Lewis e Bobby Rush, ambos conhecidos líderes dos direitos civis e membros do Congressional Black Caucus. Mas em vez de serem reconhecidos como representantes eleitos, estes dois homens (juntamente com outros 26) foram falsamente sinalizados como criminosos. Esses erros ocorreram quando a ACLU usou o software da Amazon para analisar imagens de todos os membros do Congresso em um banco de dados de 25 mil fotos acessíveis ao público. Isto resultou na identificação incorreta de 28 membros do Congresso como infratores da lei, o que representa uma taxa de erro de 5%.
“Este teste confirma que o reconhecimento facial é falho, tendencioso e perigoso”, disse Jacob Snow, advogado de tecnologia e liberdades civis da ACLU do norte da Califórnia, ao The New York Times.
Em resposta ao teste, Nina Lindsey, porta-voz da Amazon Web Services, disse que a ACLU usou a ferramenta de correspondência facial (chamada Reconhecimento da Amazon) diferentemente das recomendações da Amazon. “Vale a pena notar que, em cenários do mundo real, o Amazon Rekognition é usado quase exclusivamente para ajudar a restringir o campo e permitir que os humanos revisem e considerem opções rapidamente usando seu julgamento”, disse Lindsey em um declaração.
Ela destacou ainda que a ACLU manteve o “limiar de confiança” da ferramenta no padrão de 80 por cento. Isso significa que o grupo levou em consideração qualquer rosto correspondente como 80% semelhante ao banco de dados da polícia. No entanto, vale ressaltar que a Amazon usa o mesmo limite em um exemplo em seu site, mostrando como os rostos dos funcionários podem corresponder aos seus crachás de identificação. Lindsey disse que, no caso dos departamentos de polícia, a Amazon recomenda que um limite de 95% de similaridade seja implementado para evitar esse tipo de erro.
A Amazon já foi criticada por vender o Rekognition. Em maio, 24 grupos de defesa das liberdades civis, liderados pela ACLU, escreveram uma carta ao CEO da Amazon, Jeff Bezos, solicitando que o software deixasse de ser vendido às agências de aplicação da lei. Os grupos expressaram preocupações de que o software pudesse ser usado para vigiar manifestantes, imigrantes ou membros do público em geral, em vez de apenas suspeitos da polícia. Desde então, funcionários, investidores e acadêmicos da Amazon fizeram exigências semelhantes à Amazon.
Por enquanto, porém, isso não parece estar nos planos da gigante da web. Como disse o porta-voz da Amazon: “Continuamos entusiasmados com a forma como a análise de imagens e vídeos pode ser um impulsionador do bem no mundo”.
Atualizado em 27 de julho: O Congresso exige respostas da Amazon sobre os erros cometidos por seu software Rekognition.
Recomendações dos Editores
- Ai! Alguns membros do Amazon Prime enfrentam um aumento de preço de 43%
- Como assistir os CEOs do Facebook, Google, Amazon e Apple testemunharem no Congresso
- Amazon, Apple, Facebook e Google testemunharão perante o Congresso em julho
- Sen. Josh Hawley pede investigação criminal antitruste na Amazon
- Reconhecimento facial militar dos EUA pode identificar pessoas a 1 km de distância
Atualize seu estilo de vidaDigital Trends ajuda os leitores a manter o controle sobre o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais criteriosos e prévias únicas.
