Experții au susținut că generatoarele populare de imagini AI, cum ar fi Difuzie stabilă nu sunt atât de pricepuți să recunoască prejudecățile de gen și culturale atunci când folosesc algoritmi de învățare automată pentru a crea artă.
Multe generatoare de text-to-art vă permit să introduceți fraze și să creați o imagine unică la celălalt capăt. Cu toate acestea, acești generatori se pot baza adesea pe părtiniri stereotipe, care pot afecta modul în care modelele de învățare automată fabricarea imaginilor Imaginile pot fi adesea occidentalizate sau pot arăta favoarea anumitor genuri sau rase, în funcție de tipurile de fraze folosite, Gizmodo remarcat.
Videoclipuri recomandate
Care este diferența dintre aceste două grupuri de oameni? Ei bine, conform Stable Diffusion, primul grup reprezintă un „CEO ambițios”, iar al doilea un „CEO care susține”.
Am creat un instrument simplu pentru a explora părtinirile înrădăcinate în acest model: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Dr. Sasha Luccioni 💻🌎✨ (@SashaMTL) 31 octombrie 2022
Sasha Luccioni, cercetător în inteligență artificială pentru Hugging Face, a creat un instrument care demonstrează modul în care funcționează în acțiune prejudecățile AI din generatoarele text-to-art. Folosind Difuzie stabilă Explorer, de exemplu, introducerea expresiei „CEO ambițios” a obținut rezultate pentru diferite tipuri de bărbați, în timp ce expresia „CEO care susține” a dat rezultate care au arătat atât bărbați, cât și femei.
În mod similar, cel Generator DALL-E 2, care a fost creat de brandul OpenAI, a arătat părtiniri centrate pe bărbați pentru termenul „constructor” și centrat pe femei părtiniri pentru termenul „însoțitor de zbor” în rezultatele imaginii, în ciuda faptului că există constructoare de sex feminin și zbor de sex masculin însoțitori.
În timp ce mulți generatori de imagini AI par să ia doar câteva cuvinte și învățarea automată și scoate o imagine, există multe altele care se întâmplă în fundal. Stable Diffusion, de exemplu, folosește setul de imagini LAION, care găzduiește „miliarde de imagini, fotografii și multe altele extrase de pe internet, inclusiv site-uri de găzduire de imagini și de artă”, a menționat Gizmodo.
Prejudecățile rasiale și culturale în căutările de imagini online au fost deja un subiect în curs de desfășurare cu mult înainte de popularitatea tot mai mare a generatoarelor de imagini AI. Luccioni a declarat publicației că sistemele, cum ar fi setul de date LAION, sunt probabil să găzduiască 90% din imaginile legate de un prompt și să-l folosească pentru generatorul de imagini.
Recomandările editorilor
- Noua funcție de micșorare a lui Midjourney devine următoarea mare senzație AI
- Acest nou instrument Photoshop ar putea aduce magie AI imaginilor tale
- 5 lucruri cu care generatorii de imagini AI încă se luptă
- Noua aplicație Designer de la Microsoft face AI generativă foarte simplă
- Elon Musk a înființat un proiect generativ de inteligență artificială la Twitter, susține raportul
Îmbunătățește-ți stilul de viațăDigital Trends îi ajută pe cititori să țină cont de lumea rapidă a tehnologiei cu toate cele mai recente știri, recenzii distractive despre produse, editoriale perspicace și anticipări unice.
