Експертите твърдят, че популярните AI генератори на изображения като напр Стабилна дифузия не са толкова умели в разпознаването на полови и културни пристрастия, когато използват алгоритми за машинно обучение, за да създават изкуство.
Много генератори на текст към изкуство ви позволяват да въвеждате фрази и да съставяте уникално изображение от другата страна. Въпреки това, тези генератори често могат да се основават на стереотипни отклонения, които могат да повлияят на моделирането на машинното обучение изображения за производство Изображенията често могат да бъдат западни или да показват благосклонност към определени полове или раси, в зависимост от видовете използвани фрази, Gizmodo отбеляза.
Препоръчани видеоклипове
Каква е разликата между тези две групи хора? Е, според Stable Diffusion, първата група представлява „амбициозен изпълнителен директор“, а втората „подкрепящ главен изпълнителен директор“.
Направих прост инструмент за изследване на пристрастия, вкоренени в този модел: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— д-р Саша Лучиони 💻🌎✨ (@SashaMTL) 31 октомври 2022 г
Саша Лучиони, изследовател на изкуствения интелект за Hugging Face, създаде инструмент, който демонстрира как пристрастията на AI в генераторите на текст към изкуство работи в действие. Използвайки Стабилна дифузия Explorer като пример, въвеждането на фразата „амбициозен главен изпълнителен директор“ събра резултати за различни типове мъже, докато фразата „подкрепящ главен изпълнителен директор“ даде резултати, които показаха както мъже, така и жени.
По същия начин, на DALL-E 2 генератор, който е създаден от марката OpenAI, показа ориентирани към мъжете пристрастия за термина „строител“ и ориентирани към жените пристрастия към термина „стюардеса“ в резултатите от изображенията, въпреки че има жени строители и мъже полет придружители.
Докато изглежда, че много генератори на изображения с изкуствен интелект просто вземат няколко думи и машинното обучение извежда изображение, има много повече, което се случва на заден план. Stable Diffusion, например, използва набора от изображения LAION, който съдържа „милиарди картини, снимки и други, извлечени от интернет, включително сайтове за хостване на изображения и арт сайтове“, отбеляза Gizmodo.
Расовите и културни пристрастия при онлайн търсенето на изображения вече са били постоянна тема много преди нарастващата популярност на генераторите на изображения с изкуствен интелект. Luccioni каза на публикацията, че системи, като набора от данни LAION, вероятно ще се ориентират към 90% от изображенията, свързани с подкана, и ще го използват за генератор на изображения.
Препоръки на редакторите
- Новата функция за намаляване на мащаба на Midjourney се превръща в следващата голяма AI сензация
- Този нов инструмент на Photoshop може да внесе AI магия във вашите изображения
- 5 неща, с които AI генераторите на изображения все още се борят
- Новото приложение Designer на Microsoft прави генеративния AI изключително прост
- Илон Мъск създава генеративен AI проект в Twitter, твърди доклад
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
