전문가들은 다음과 같은 인기 있는 AI 이미지 생성기가 있다고 주장했습니다. 안정적인 확산 기계 학습 알고리즘을 사용하여 예술 작품을 만들 때 성별 및 문화적 편견을 포착하는 데 능숙하지 않습니다.
많은 텍스트-아트 생성기를 사용하면 문구를 입력하고 반대편에서 고유한 이미지 초안을 작성할 수 있습니다. 그러나 이러한 생성기는 종종 고정관념적 편견을 기반으로 할 수 있으며, 이는 기계 학습 모델이 어떻게 작동하는지에 영향을 줄 수 있습니다. 이미지 제조 이미지는 유형에 따라 서구화되거나 특정 성별이나 인종에 호감을 나타내는 경우가 많습니다. 사용된 문구, 기즈모도 유명한.
추천 동영상
이 두 그룹의 사람들의 차이점은 무엇입니까? Stable Diffusion에 따르면 첫 번째 그룹은 '야심찬 CEO'를 나타내고 두 번째 그룹은 '지원하는 CEO'를 나타냅니다.
저는 이 모델에 내재된 편견을 탐색하기 위해 간단한 도구를 만들었습니다. https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Sasha Luccioni 박사 💻🌎✨(@SashaMTL) 2022년 10월 31일
Hugging Face의 인공 지능 연구원인 Sasha Luccioni는 텍스트-아트 생성기의 AI 편향이 실제로 어떻게 작동하는지 보여주는 도구를 만들었습니다. 사용하여 안정적인 확산 예를 들어 Explorer의 경우 '야심찬 CEO'라는 문구를 입력하면 다양한 남성 유형에 대한 결과가 나온 반면, '지지하는 CEO'라는 문구를 입력하면 남성과 여성 모두에게 나타나는 결과가 나왔습니다.
마찬가지로, DALL-E 2 발전기OpenAI라는 브랜드가 만든 는 "빌더"라는 용어에 대해 남성 중심적 편견과 여성 중심적 편견을 보여주었습니다. 여성 건축업자와 남성 비행사가 있음에도 불구하고 이미지 결과에서 "승무원"이라는 용어에 대한 편견 좌우.
많은 AI 이미지 생성기가 단지 몇 단어와 기계 학습을 통해 이미지를 생성하는 것처럼 보이지만, 백그라운드에서 더 많은 작업이 진행됩니다. 예를 들어 Stable Diffusion은 "이미지 호스팅 및 예술 사이트를 포함하여 인터넷에서 스크랩한 수십억 개의 사진, 사진 등"을 호스팅하는 LAION 이미지 세트를 사용한다고 Gizmodo는 말했습니다.
온라인 이미지 검색의 인종적, 문화적 편견은 AI 이미지 생성기의 인기가 높아지기 오래 전부터 이미 지속적인 주제였습니다. Luccioni는 LAION 데이터 세트와 같은 시스템이 프롬프트와 관련된 이미지의 90%를 가져와 이미지 생성기에 사용할 가능성이 높다고 간행물에 말했습니다.
편집자의 추천
- Midjourney의 새로운 축소 기능은 차세대 AI 센세이션이 되고 있습니다.
- 이 새로운 Photoshop 도구는 AI 마법을 이미지에 가져올 수 있습니다.
- AI 이미지 생성기가 여전히 어려움을 겪는 5가지
- Microsoft의 새로운 Designer 앱으로 생성 AI를 간단하게 만듭니다.
- Elon Musk가 트위터에서 생성 AI 프로젝트를 설정하고 주장을 보고함
당신의 라이프스타일을 업그레이드하세요Digital Trends는 독자들이 모든 최신 뉴스, 재미있는 제품 리뷰, 통찰력 있는 사설 및 독특한 미리보기를 통해 빠르게 변화하는 기술 세계를 계속해서 살펴볼 수 있도록 도와줍니다.
