당신이 선택한 음성 어시스턴트는 아마도 여성 목소리일 것입니다. 별로 생각하지 않을 수도 있지만, 유엔 교육과학문화기구(UNESCO)는 AI 기반 보조자가 부정적인 성별 고정관념을 강화하는 동시에 폭력적이고 모욕적인 언어를 적절하게 거부하지 못해 잠재적으로 해로운 결과를 초래할 수 있습니다.
"라는 제목의 논문에서할 수 있다면 얼굴이 붉어질 것 같아요” 유네스코의 연구자들은 인공 지능 연구에서 발생하는 암묵적인 편견 중 일부를 조사했습니다. 논문의 저자는 음성 비서에게 전통적으로 여성 이름을 부여하고 할당함으로써 제안합니다. 기본적으로 여성스러운 목소리로 들리는 기업에서는 의도치 않게 여성에 대한 부정적이고 퇴행적인 생각을 강화해 왔습니다. 여성. 이는 그들을 종속적인 존재로, 요청받은 일을 수행할 것으로 기대되는 역할에 배치합니다.
추천 동영상
또한 이 논문에서는 욕설이 나올 때 음성 비서가 어떻게 반응하는지 살펴보았습니다. 그들이 발견한 것은 A.I. 그러한 의견을 낙담시키기 위해 어떤 종류의 조치도 취하지 않고 이를 회피합니다. 사용자가 음성 어시스턴트를 위협하면 종종 어리석은 농담이나 무시하는 메시지가 생성됩니다. 유네스코 연구원들은 기술 기업들이 여성 목소리를 향한 모욕적인 언어를 줄이는 데 도움이 되는 보호 장치를 이러한 시스템에 구축해야 한다고 믿습니다. 연구원들은 그렇게 하지 않으면 기업이 여성에 대한 폭력적인 위협과 같은 행동을 정상화할 위험이 있다고 믿습니다.
관련된
- 스마트 비서로 부모님을 판매하는 방법
- 스마트 홈으로 주택 소유자 보험 비용을 절약할 수 있나요?
- Breville Joule Oven Air Fryer Pro를 정말 스마트하게 만드는 앱
유네스코에 따르면 이 문제의 일부는 대부분의 기술 회사가 남성으로 구성된 엔지니어링 팀을 광범위하고 압도적으로 보유하고 있다는 것입니다. 왜냐하면 그들은 자신을 겨냥한 이러한 유형의 언어를 직접적으로 다루어본 경험이 없고 그러한 언어 유형의 피해자가 아니었을 가능성이 높기 때문입니다. 여성들이 겪는 부정적인 고정관념과 낡은 성 역할 때문에 AI를 설계할 때 반드시 이런 것들을 고려하지는 않습니다. 시스템.
“압도적으로 남성 엔지니어링 팀으로 구성된 Apple 및 Amazon과 같은 회사는 AI를 구축했습니다. 원인이 되는 시스템 여성화된 디지털 어시스턴트가 언어적 학대에 대해 "할 수 있으면 잡아주세요"라고 연구원들은 적었습니다. 보고서. “대부분의 음성 비서의 말이 여성이기 때문에 여성이 유순하고 유순하다는 신호를 보냅니다. 버튼을 누르거나 '안녕' 또는 '좋아요'. 조수는 지휘관이 요구하는 것 이상으로 어떠한 선택권도 갖고 있지 않습니다. 어조나 적대감에 관계없이 명령을 존중하고 질문에 응답합니다.”
유네스코는 이 문제에 대한 최선의 해결책은 다음과 같은 것을 만드는 것이라고 믿습니다. 성중립적인 목소리 그 A.I. 보조자가 사용할 수 있습니다. 또한 조직은 공격적이고 폭력적인 언어와 모욕을 차단하고 억제하는 대응 및 시스템 구축을 제안합니다. 연구원들은 기술 회사들이 유해한 고정관념을 확장하는 것을 피하기 위해 음성 비서를 종속적인 인간으로 포지셔닝하는 것을 중단해야 한다고 믿습니다.
편집자의 추천
- 전문가들은 AI 비서가 어린이의 사회적 발달을 저해하고 있다고 경고합니다.
- 구글과 알렉사를 괴롭히는 애완동물 모음
- Home Depot의 새로운 Hubspace 호환 품목에는 스마트 플러그가 포함됩니다.
- 하나의 스마트홈 생태계에 올인하는 것이 가능할까요?
- Google Home(Nest Audio)과 아마존 에코
당신의 라이프스타일을 업그레이드하세요Digital Trends는 독자들이 모든 최신 뉴스, 재미있는 제품 리뷰, 통찰력 있는 사설 및 독특한 미리보기를 통해 빠르게 변화하는 기술 세계를 계속해서 살펴볼 수 있도록 도와줍니다.
