Эксперты утверждают, что популярные генераторы изображений AI, такие как Стабильная диффузия не настолько хорошо умеют улавливать гендерные и культурные предубеждения при использовании алгоритмов машинного обучения для создания произведений искусства.
Многие генераторы преобразования текста в рисунок позволяют вам вводить фразы и создавать уникальное изображение на другом конце. Однако эти генераторы часто могут быть основаны на стереотипных предубеждениях, которые могут повлиять на то, как модели машинного обучения создавать изображения Изображения часто могут быть вестернизированными или показывать предпочтение определенному полу или расе, в зависимости от типа используемые фразы, Гизмодо отмеченный.
Рекомендуемые видео
В чем разница между этими двумя группами людей? Что ж, согласно Stable Diffusion, первая группа представляет собой «амбициозного генерального директора», а вторая — «поддерживающего генерального директора».
Я создал простой инструмент для изучения предубеждений, укоренившихся в этой модели: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Доктор Саша Луччиони 💻🌎✨ (@SashaMTL) 31 октября 2022 г.
Саша Луччиони, исследователь искусственного интеллекта из Hugging Face, создала инструмент, который демонстрирует, как в действии работает смещение ИИ в генераторах текста в искусство. Используя Стабильная диффузия Например, Explorer, введя фразу «амбициозный генеральный директор», получил результаты для разных типов мужчин, а фраза «поддерживающий генеральный директор» дала результаты, которые показали как мужчины, так и женщины.
Аналогичным образом, Генератор ДАЛЛ-Э 2, созданный брендом OpenAI, продемонстрировал предвзятое отношение к термину «строитель», ориентированное на мужчин, и на женщин. предвзятое отношение к термину «бортпроводник» в результатах изображений, несмотря на то, что среди строителей есть женщины, а летные экипажи — мужчины. обслуживающий персонал.
Хотя многие генераторы изображений ИИ, похоже, просто берут несколько слов, машинное обучение и выдает изображение, в фоновом режиме происходит гораздо больше. Stable Diffusion, например, использует набор изображений LAION, в котором хранятся «миллиарды изображений, фотографий и многого другого, взятого из Интернета, включая хостинги изображений и арт-сайты», отмечает Gizmodo.
Расовая и культурная предвзятость при поиске изображений в Интернете уже была постоянной темой задолго до роста популярности генераторов изображений с использованием искусственного интеллекта. Луччиони сообщил изданию, что такие системы, как набор данных LAION, скорее всего, распознают 90% изображений, связанных с подсказкой, и используют их для генератора изображений.
Рекомендации редакции
- Новая функция уменьшения масштаба Midjourney становится следующей большой сенсацией в области искусственного интеллекта.
- Этот новый инструмент Photoshop может привнести в ваши изображения магию искусственного интеллекта
- 5 вещей, с которыми генераторы изображений AI все еще сталкиваются
- Новое приложение Microsoft Designer делает генеративный искусственный интеллект невероятно простым
- Илон Маск запускает проект генеративного искусственного интеллекта в Twitter, говорится в отчете
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, содержательным редакционным статьям и уникальным кратким обзорам.
