아마존은 이 문제에 대해 처음부터 다시 시작하고 싶어할 수도 있습니다. 거대 소매업체가 현재 개발자에게 제공하는 안면 인식 도구 정말 실수야 미국시민자유연맹(ACLU)이 실시한 테스트에서 New York Times는 보도했습니다. 이 도구는 28명의 국회의원을 국가 입법부 구성원으로 식별하는 대신 이들 개인을 경찰 용의자로 분류했습니다. 설상가상으로 불균형한 수의 아프리카계 미국인과 라틴계 의회 의원이 잘못되었습니다. 인종 프로파일링이 기계 학습에도 얼마나 깊이 자리 잡았는지에 대한 의문이 제기됩니다. 소프트웨어.
이제 의회는 답변을 원합니다. 신원이 잘못된 국회의원 중 5명이 아마존 CEO인 제프 베조스와의 '즉각' 회의를 요청하고 있습니다. 7월 26일 목요일, Reps. Jimmy Gomez, John Lewis, Luis Gutierrez, Mark DeSaulnier 및 Sen. Edward Markey는 거대 온라인 소매업체에 왜 일치하지 않는지 묻는 편지를 보냈습니다. 그러나 이러한 잘못된 신원 사건의 개인적인 소지품을 넘어서, 국회의원들은 다음과 같은 요구를 하고 있습니다. 부정확한 정보를 방지하기 위해 이 기술의 결함을 해결하는 방법에 대한 답변 결과.”
추천 동영상
아마존은 아직 최고경영자(CEO)가 이들 회의를 받아들일지 여부를 밝히지 않았다.
별도의 성명서에서 Rep. G.K. Butterfield는 “나는 이 기술과 관련된 부정확한 결과로 인해 어려움을 겪고 있습니다. 특히 다음과 같은 사람들에게 의도하지 않은 결과를 초래할 수 있는 분명한 사각지대가 있기 때문입니다. 색상. 이 기술은 광범위한 경제적 잠재력을 가질 수 있지만 Amazon이 이 기술 사용에 대한 모범 사례에 대해 사용자를 더 잘 교육할 것을 권장합니다. 기술의 한계에 대해 개방적이고 솔직하게 대하고, 이 기술의 결함을 해결하는 데 적절하게 도움을 줄 수 있는 유색 인종 직원을 더 많이 고용하십시오. 기술."
관련된
- Amazon Prime 회원은 다채로운 Destiny 2 이국적인 아이템 팩을 무료로 받을 수 있습니다.
- 중소기업 소유주들은 의회에 Amazon의 Bezos를 굽힐 것을 요구합니다.
- 아마존, 1년간 경찰 안면인식 기술 '레코그니션' 사용 금지
잘못 알려진 의원 중에는 국회의원도 포함됐다. 존 루이스(John Lewis)와 바비 러쉬(Bobby Rush)는 둘 다 잘 알려진 시민권 운동가이자 하원 흑인 간부회(Congressional Black Caucus) 회원입니다. 그러나 이 두 사람(다른 26명 포함)은 선출된 대표로 인정받기는커녕 범죄자로 거짓 신고되었습니다. 이러한 실수는 ACLU가 Amazon의 소프트웨어를 사용하여 공개적으로 접근 가능한 25,000개의 머그샷 데이터베이스에 대해 모든 의회 의원의 이미지를 분석했을 때 발생했습니다. 이로 인해 28명의 국회의원이 범법자로 잘못 식별되었으며 이는 오류율이 5%에 해당합니다.
북부 캘리포니아 ACLU의 기술 및 시민 자유 변호사인 Jacob Snow는 The New York Times에 “이 테스트는 얼굴 인식에 결함이 있고 편견이 있으며 위험하다는 것을 확인시켜줍니다.”라고 말했습니다.
테스트에 대해 Amazon Web Services 대변인 Nina Lindsey는 ACLU가 얼굴 일치 도구(라고 함)를 사용했다고 말했습니다. 아마존 인식) Amazon의 권장 사항과 다릅니다. “실제 시나리오에서 Amazon Rekognition은 거의 독점적으로 사용 범위를 좁히는 데 사용된다는 점은 주목할 가치가 있습니다. 인간이 자신의 판단을 바탕으로 옵션을 신속하게 검토하고 고려할 수 있게 해줍니다.”라고 Lindsey는 말했습니다. 성명.
그녀는 또한 ACLU가 도구의 "신뢰도 임계값"을 기본값인 80%로 유지했다고 지적했습니다. 이는 그룹이 경찰 데이터베이스와 80% 유사하게 일치하는 얼굴을 고려했음을 의미합니다. 그러나 Amazon이 웹 사이트의 예에서 동일한 임계값을 사용하여 직원의 얼굴을 ID 배지와 일치시킬 수 있는 방법을 보여 준다는 점을 지적할 가치가 있습니다. Lindsey는 경찰서의 경우 이러한 종류의 실수를 피하기 위해 Amazon이 95%의 유사성 임계값을 구현할 것을 권장한다고 말했습니다.
Amazon은 이전에 Rekognition 판매로 비난을 받았습니다. 지난 5월, ACLU가 이끄는 24개 시민 자유 단체는 Amazon의 CEO인 Jeff Bezos에게 소프트웨어가 법 집행 기관에 판매되는 것을 중단할 것을 요청하는 서한을 보냈습니다. 단체들은 이 소프트웨어가 경찰 용의자뿐만 아니라 시위자, 이민자, 일반 대중을 감시하는 데 사용될 수 있다는 우려를 표명했습니다. Amazon 직원, 투자자 및 학자들은 이후 Amazon에 대해 유사한 요구를 해왔습니다.
그러나 당분간은 웹 거대 기업의 카드에는 없는 것 같습니다. Amazon의 대변인은 "우리는 이미지와 비디오 분석이 어떻게 세계의 선의를 위한 원동력이 될 수 있는지에 대해 여전히 기대하고 있습니다."라고 말했습니다.
7월 27일 업데이트: 의회는 Rekognition 소프트웨어에서 발생한 실수에 대해 Amazon에 답변을 요구하고 있습니다.
편집자의 추천
- 아야! 일부 아마존 프라임 회원, 43% 가격 인상 직면
- 페이스북, 구글, 아마존, 애플의 CEO들이 의회에서 증언하는 것을 보는 방법
- 아마존, 애플, 페이스북, 구글은 7월 의회에서 증언할 예정이다.
- 센. Josh Hawley는 Amazon에 대한 독점 금지 범죄 조사를 요구합니다.
- 미군 안면인식 기술로 1km 떨어진 사람 식별 가능
당신의 라이프스타일을 업그레이드하세요Digital Trends는 독자들이 모든 최신 뉴스, 재미있는 제품 리뷰, 통찰력 있는 사설 및 독특한 미리보기를 통해 빠르게 변화하는 기술 세계를 계속해서 살펴볼 수 있도록 도와줍니다.
