Google 경영진이 A.I. 인종차별을 증폭시킬 수 있음

두 명의 구글 임원은 금요일 인공 지능에 대한 편견이 이미 미국에서 소외된 지역 사회에 피해를 주고 있으며 이런 일이 일어나지 않도록 더 많은 조치가 필요하다고 말했습니다. 엑스. 아이에, Google의 책임 있는 혁신을 위한 홍보 책임자, 안젤라 윌리엄스, Google의 정책 관리자가 다음과 같이 연설했습니다. (IRL 아님) 프라이드 서밋는 전 세계 여성, 논바이너리, 트랜스젠더를 위한 세계 최대의 기술 중심 LGBTQ 조직인 Lesbians Who Tech & Allies가 주최한 이벤트입니다.

~ 안에 분리된회담, 그들은 기계 학습 기술을 사용하여 미국의 흑인 커뮤니티와 다른 커뮤니티, 그리고 더 광범위하게 전 세계에 해를 끼칠 수 있는 방식을 다루었습니다.

알고리즘의 편향은 단순한 데이터 문제가 아닙니다. AI 사용에 대한 선택은 편향될 수 있고, 알고리즘이 학습하는 방식은 편향될 수 있으며, 사용자가 시스템에 영향을 미치고 상호 작용하고 인식하는 방식은 편향을 강화할 수 있습니다! 점검 @timnitGebru의 작업을 통해 더 많은 것을 배울 수 있습니다!

— 엑스. 아이에??? (@TechWithX) 2020년 6월 26일

Williams는 AI 사용에 대해 논의했습니다. 전면적인 감시를 위한 그 역할 과도한 치안 유지, 편향된 선고에 대한 구현. “기술이 인종차별적이라는 것은 아니지만 우리는 무의식적인 편견을 기술에 코딩할 수 있습니다.”라고 그녀는 말했습니다. 윌리엄스는 다음을 강조했다. Robert Julian-Borchak Williams의 사례, 디트로이트 출신의 아프리카계 미국인 남성은 얼굴 인식 시스템이 자신의 사진을 좀도둑의 보안 영상과 잘못 일치시켜 최근 잘못 체포되었습니다. 이전 연구에서는 얼굴 인식 시스템이 다양한 흑인을 구별하다. “여기가 A.I. … 현실 세계에서는 감시가 크게 잘못될 수 있습니다.”라고 Williams는 말했습니다.

엑스. Eyeé는 또한 A.I. '불공정한 편견을 확대하고 강화'하는 데 도움이 될 수 있습니다. 준디스토피아적이며 주목을 끄는 용도 외에도 A.I., Eyeé는 Google의 자체 기술을 포함하여 평범해 보이는 일상적인 기술 사용에 편견이 스며들 수 있는 방식에 중점을 두었습니다. 도구. Eyeé는 "Google에서는 이러한 문제가 낯설지 않습니다."라고 말했습니다. "최근 몇 년 동안 우리는 우리의 알고리즘이 사람들에게 어떤 부정적인 영향을 미쳤는지에 대해 헤드라인에 여러 번 등장했습니다." 예를 들어, Google은 다음을 위한 도구를 개발했습니다.

두 구글 임원은 이러한 문제에 대한 포괄적인 해결책은 없다고 말했습니다. 문제가 발견될 때마다 Google은 편견을 없애기 위해 노력합니다. 그러나 알고리즘 설계부터 시스템에 이르기까지 편견이 시스템에 유입될 수 있는 잠재적인 위치의 범위는 데이터가 생산되는 사회적 맥락에 배포한다는 것은 항상 문제가 있다는 것을 의미합니다. 예. 핵심은 이를 인식하고, 그러한 도구를 면밀히 조사할 수 있도록 하며, 다양한 커뮤니티가 이러한 기술의 사용에 대해 목소리를 낼 수 있도록 하는 것입니다.

편집자의 추천

• A.I. 마이크로칩 설계에서 인간 엔지니어를 이길 수 있습니까? 구글은 그렇게 생각한다
• 빅슬립(BigSleep) AI 아직 존재하지 않는 사진에 대한 Google 이미지 검색과 같습니다.
• Google은 YouTube 콘텐츠 관리를 AI에서 대신하기 위해 인간을 다시 불러옵니다.
• 가짜 뉴스? 일체 포함. 알고리즘은 당신이 읽는 이야기에서 정치적 편견을 드러냅니다.
• 일체 포함. 업스케일링 덕분에 1896년에 제작된 이 영화는 눈부신 4K로 촬영된 것처럼 보입니다.

당신의 라이프스타일을 업그레이드하세요Digital Trends는 독자들이 모든 최신 뉴스, 재미있는 제품 리뷰, 통찰력 있는 사설 및 독특한 미리보기를 통해 빠르게 변화하는 기술 세계를 계속해서 살펴볼 수 있도록 도와줍니다.