Gli esperti hanno affermato che i popolari generatori di immagini AI come Diffusione stabile non sono così abili nel cogliere i pregiudizi di genere e culturali quando utilizzano algoritmi di apprendimento automatico per creare arte.
Molti generatori di testo in grafica ti consentono di inserire frasi e creare un'immagine unica dall'altra parte. Tuttavia, questi generatori possono spesso basarsi su pregiudizi stereotipati, che possono influenzare il modo in cui i modelli di machine learning produrre immagini Le immagini possono spesso essere occidentalizzate o mostrare favore verso determinati generi o razze, a seconda del tipo di frasi usate, Gizmodo notato.
Video consigliati
Qual è la differenza tra questi due gruppi di persone? Ebbene, secondo Stable Diffusion, il primo gruppo rappresenta un "CEO ambizioso" e il secondo un "CEO solidale".
Ho creato un semplice strumento per esplorare i pregiudizi radicati in questo modello: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Dott.ssa Sasha Luccioni 💻🌎✨ (@SashaMTL) 31 ottobre 2022
Sasha Luccioni, ricercatrice di intelligenza artificiale per Hugging Face, ha creato uno strumento che dimostra come funziona in azione il bias dell'intelligenza artificiale nei generatori di testo-arte. Usando il Diffusione stabile Explorer ad esempio, inserendo la frase "CEO ambizioso" ha ottenuto risultati per diversi tipi di uomini, mentre la frase "CEO solidale" ha dato risultati che mostravano sia uomini che donne.
Allo stesso modo, il Generatore DALL-E2, creato dal marchio OpenAI, ha mostrato pregiudizi maschili per il termine "costruttore" e femminili pregiudizi per il termine “assistente di volo” nei risultati delle immagini, nonostante ci siano donne costruttrici e uomini di volo assistenti.
Mentre molti generatori di immagini AI sembrano prendere solo poche parole e l'apprendimento automatico e fa apparire un'immagine, c'è molto di più che accade in background. Stable Diffusion, ad esempio, utilizza il set di immagini LAION, che ospita "miliardi di immagini, foto e altro prelevate da Internet, inclusi hosting di immagini e siti d'arte", ha osservato Gizmodo.
I pregiudizi razziali e culturali nelle ricerche di immagini online sono già stati un argomento in corso molto prima della crescente popolarità dei generatori di immagini AI. Luccioni ha dichiarato alla pubblicazione che è probabile che sistemi come il set di dati LAION riescano a individuare il 90% delle immagini correlate a un prompt e ad utilizzarlo per il generatore di immagini.
Raccomandazioni degli editori
- La nuova funzione di zoom indietro di Midjourney sta diventando la prossima grande sensazione di intelligenza artificiale
- Questo nuovo strumento di Photoshop potrebbe portare la magia dell'intelligenza artificiale nelle tue immagini
- 5 cose con cui i generatori di immagini AI hanno ancora difficoltà
- La nuova app Designer di Microsoft rende l’intelligenza artificiale generativa estremamente semplice
- Elon Musk sta avviando un progetto di intelligenza artificiale generativa su Twitter, riporta le affermazioni
Migliora il tuo stile di vitaDigital Trends aiuta i lettori a tenere d'occhio il frenetico mondo della tecnologia con tutte le ultime notizie, divertenti recensioni di prodotti, editoriali approfonditi e anteprime uniche nel loro genere.
