실리콘 밸리의 오만함을 보여주는 최신 사례는 얼굴 인식 앱입니다. 클리어뷰 AI. 이 소규모 스타트업의 앱은 너무 강력해서 누군가가 거리에서 당신에게 다가와 사진을 찍고 신속하게 당신의 이름, 주소, 전화번호를 알아낼 수 있다고 합니다. 뉴욕타임스의 보고서.
내용물
- 학대자를 위한 새로운 도구
- 계속되는 문제
이 기술은 아마도 두 가지 유형의 사람들에게 좋은 아이디어처럼 들릴 것입니다. 법 집행 그리고 소름 끼치는 소리. 옹호자들은 이런 종류의 안면 인식 기술이 스토커, 즉 스토커에게 도움이 될 수 있다고 우려합니다. 가정 폭력 이력, 그리고 사악한 일을 위해 당신에 관한 모든 것을 알고 싶어하는 사람 목적.
추천 동영상
영국에 본사를 둔 ProPrivacy의 개인 정보 보호 옹호자인 Jo O'Reilly는 Digital Trends에 보낸 성명에서 "이 앱에 대한 소식이 퍼지자 모든 곳의 여성들이 한숨을 쉬었습니다."라고 말했습니다. "다시 한 번, 온라인과 실제 생활 모두에서 여성의 안전은 더욱 침해적인 기술을 만들고 수익을 창출하려는 기술 스타트업의 욕구에 이어 두 번째로 중요해졌습니다."
관련된
- Amazon, AI를 배포하여 제품 리뷰 요약
- AI가 Breaking Bad를 애니메이션으로 만들었습니다. 정말 끔찍합니다.
- 곰을 위한 얼굴 인식 기술은 인간을 안전하게 지키는 것을 목표로 합니다.
Clearview는 부분적으로 다음과 같은 인기 있는 소셜 미디어 사이트에서 공개적으로 사용 가능한 데이터를 스크랩하는 방식으로 작동합니다. 페이스북, Twitter, YouTube, Venmo 등이 있습니다. Facebook 회사 대변인은 Digital Trends에 다음과 같이 말했습니다.
학대자를 위한 새로운 도구
스토킹은 온라인에서 오랫동안 여성의 문제였으며 얼굴만으로 누군가를 추적할 수 있는 도구는 없습니다. 현재 Clearview는 자사의 서비스를 법 집행 기관에만 판매하고 있으며, 법 집행 기관에서는 기술에 대한 찬사를 받고 있다고 주장합니다. “그러나 그들은 잘못된 손에서 이 소프트웨어가 거의 모든 사람을 괴롭히고 스토킹하는 데 사용될 수 있다는 사실에 대해 이상하게도 침묵하고 있습니다.”라고 O'Reilly는 말했습니다. "소프트웨어가 대중에게 공개된다면 이를 방지하는 것은 불가능할 것입니다. Clearview 투자자들이 인정한 시나리오는 가능합니다."
"인간이 소비하게 될 모든 기술은 결함을 생각해야 합니다."라고 Crystal Justice의 최고 마케팅 및 개발 책임자는 말했습니다. 전국 가정폭력 핫라인 . "가해자는 항상 도구 상자에서 다음 도구를 찾고 있습니다."
핫라인은 2015년부터 디지털 학대를 자체 특정 카테고리로 보고하기 시작했으며 그 이후 특히 젊은이들 사이에서 그 수가 급격히 증가했습니다. Justice는 Digital Trends에 2018년에 핫라인에 371,000건의 문의가 접수되었으며 그 중 15%가 디지털 학대 신고였다고 말했습니다. 핫라인 수치에 따르면 전국적으로 평균적으로 여성 4명 중 1명, 남성 7명 중 1명이 가정폭력 생존자입니다.
“생존자들은 우리 인구의 큰 부분을 차지합니다.”라고 Justice는 말했습니다. "기술 회사는 앱을 설계할 때 생존자 경험을 고려해야 합니다."
계속되는 문제
이는 오늘날 시대에 파괴적인 기술이 많이 사용되는 지속적인 패턴입니다. 2009년 Uber가 출시되었을 때 이 기술은 사실이라고 믿기에는 너무 멋져 보였습니다. 우리는 더 이상 택시 산업이나 각 도시의 무능한 대중 교통의 노예가 아니었습니다.
물론 Uber의 모델은 우리가 어렸을 때 배운 통념, 즉 낯선 사람과 함께 차에 타지 말라는 통념을 정면으로 정면으로 뒤집기도 했습니다. 10년 그리고 수천 건의 소송성폭행에 대해 나중에는 통념에 이유가 있었던 것 같습니다. 많은 사람들에게 낯선 사람의 차에 타는 것은 돈을 지불하더라도 안전하지 않습니다.
그러나 안전에 대해 생각하는 요소나 세상을 이동해야 하는 요소는 신체적인 안전을 끊임없이 걱정하는 요소입니다. 여성과 소수 성별의 사람들은 Uber와 같은 기술 회사를 설립한 (대부분 백인) 남성의 마음 속에 있지 않은 것 같습니다. 좋다 트위터, 다른 많은 사람들처럼. 그들은 단지 세상을 바꿀 멋진 것을 만들고 싶었을 뿐입니다. 너무 늦을 때까지 그것이 사악한 목적으로 사용될 것이라는 생각은 마음에 들지 않았습니다.
“이러한 물건을 공공 소비용으로 만드는 것은 생존자들을 위험에 빠뜨리는 것이므로 의도하지 않은 결과에 대해 생각해 볼 필요가 있습니다.”
National Network to End Domestic Violence의 수석 기술 안전 전문가인 Rachel Gibson은 개인정보 보호와 안전이 처음부터 앱에 내장되어야 한다고 말했습니다. Gibson은 Digital Trends와의 인터뷰에서 “무언가가 좋은 의도로 만들어졌지만 기술이 오용될 수 있다는 것을 알고 있습니다.”라고 말했습니다. “우리는 그것을 새로운 기술, 오래된 행동이라고 생각합니다. [Uber 이전에도] 사람들은 여전히 택시에서 강간을 당하고 있었지만 요즘 기술이 어떻게 스토킹이나 폭행과 같은 오래된 행동을 조장할 수 있는지 생각해야 합니다.”
Gibson은 Clearview와 같은 것이 법 집행에 사용되지만 일반 대중에게 어떻게, 왜 유용할 것인지에 대한 의문을 제기한다고 말했습니다. “이러한 것들을 공공 소비를 위해 만드는 것은 생존자들을 위험에 빠뜨리며 의도하지 않은 결과에 대해 생각해야 합니다.”라고 그녀는 말했습니다.
Justice는 공공 안전에서 기술의 역할에 대한 대화가 변화하고 있다고 말했습니다. 그녀는 “미투 이후 담론이 바뀌었다”고 말했다. “그리고 이제 때가 됐어요. 이것은 새로운 문제가 아닙니다. 가정폭력이 필연적으로 증가하는 것은 아니지만 마침내 논의되고 있는 것으로 보입니다. 이제 우리는 기술이 어떻게 그 일부인지에 대한 복잡한 요소를 포함할 수 있습니다.”
Gibson은 또한 여러 "주요 기술 회사"와 대화를 나눴다고 말했습니다. 어느 것인지 명시), 그들은 이제 개인 정보 보호를 위한 건물에 대해 "유념하려고 노력"하고 있다고 말했습니다. 보안.
Clearview는 Digital Trends에 "이러한 우려를 심각하게 받아들이고 있으며 상업적인 출시 계획이 없다"고 짧은 성명을 발표했습니다. ~ 안에 블로그 게시물, 회사는 자사 제품이 대중에게 제공되지 않으며 "법 집행 기관 및 일부 보안 전문가에게만" 제공될 것이라고 강조했습니다.
귀하 또는 귀하가 아는 사람이 친밀한 파트너 학대로 고통받고 있다고 생각되면 연중무휴 24시간 전국 가정폭력 핫라인 1−800−799−7233으로 연락하세요.
편집자의 추천
- AI 기반 해설이 다음 달 윔블던에 등장합니다
- Elon Musk가 트위터에서 생성 AI 프로젝트를 설정하고 주장을 보고함
- Google 스마트 캔버스, 앱 간 통합 강화
- Nvidia는 AI Superpod 플랫폼을 월 9만 달러에 임대합니다.
- 포틀랜드, 안면인식 기술 사적·공적 사용 금지
