Due dirigenti di Google hanno affermato venerdì che i pregiudizi nell’intelligenza artificiale stanno danneggiando le comunità già emarginate in America e che è necessario fare di più per garantire che ciò non accada. X. Eyeé, responsabile della sensibilizzazione per l'innovazione responsabile presso Google e Angela Williams, policy manager di Google, ha parlato a (Non IRL) Vertice dell'orgoglio, un evento organizzato da Lesbians Who Tech & Allies, la più grande organizzazione LGBTQ focalizzata sulla tecnologia per donne, persone non binarie e trans in tutto il mondo.
In separatoparla, hanno affrontato i modi in cui la tecnologia dell’apprendimento automatico può essere utilizzata per danneggiare la comunità nera e altre comunità in America – e più ampiamente in tutto il mondo.
Video consigliati
I bias negli algoritmi NON SONO SOLO UN PROBLEMA DI DATI. La scelta di utilizzare l’intelligenza artificiale può essere distorta, il modo in cui l’algoritmo apprende può essere distorto e il modo in cui gli utenti sono influenzati/interagiscono/percepiscono un sistema può rafforzare i pregiudizi! guardare
@timnitGebruè il lavoro per saperne di più!- X. Occhio??? (@TechWithX) 26 giugno 2020
Williams ha discusso dell'uso dell'A.I. per la sorveglianza radicale, il suo ruolo in un eccesso di poliziae la sua implementazione per sentenze distorte. “[Non è] che la tecnologia sia razzista, ma possiamo codificare i nostri pregiudizi inconsci nella tecnologia”, ha detto. Williams ha sottolineato il caso di Robert Julian-Borchak Williams, un afroamericano di Detroit che è stato recentemente arrestato ingiustamente dopo che un sistema di riconoscimento facciale ha erroneamente abbinato la sua foto al filmato di sicurezza di un taccheggiatore. Studi precedenti hanno dimostrato che i sistemi di riconoscimento facciale possono avere difficoltà a farlo distinguere tra diverse persone di colore. “È qui che A.I. …la sorveglianza può andare terribilmente storta nel mondo reale”, ha detto Williams.
X. Eyeé ha anche discusso di come A.I. può aiutare a “dimensionare e rafforzare i pregiudizi ingiusti”. Oltre agli usi più quasi distopici e che attirano l'attenzione di A.I., Eyeé si è concentrato sul modo in cui i pregiudizi potrebbero insinuarsi negli usi più apparentemente banali e quotidiani della tecnologia, incluso quello di Google utensili. “Noi di Google non siamo estranei a queste sfide”, ha affermato Eyeé. "Negli ultimi anni... siamo stati più volte sui titoli dei giornali per l'impatto negativo che i nostri algoritmi hanno avuto sulle persone." Ad esempio, Google ha sviluppato uno strumento per classificare la tossicità dei commenti online. Anche se questo può essere molto utile, è stato anche problematico: frasi come “Sono una donna gay nera” erano inizialmente classificate come più tossico di "Sono un uomo bianco". Ciò era dovuto a una lacuna nei set di dati di addestramento, con più conversazioni su determinate identità che altri.
Non esistono soluzioni generali a questi problemi, hanno affermato i due dirigenti di Google. Ovunque si riscontrino problemi, Google lavora per eliminare i pregiudizi. Ma la portata dei potenziali luoghi in cui i pregiudizi possono entrare nei sistemi, dalla progettazione degli algoritmi alla loro realizzazione l’implementazione nel contesto sociale in cui vengono prodotti i dati – significa che ci saranno sempre problemi esempi. La chiave è esserne consapevoli, consentire che tali strumenti vengano esaminati attentamente e consentire alle diverse comunità di far sentire la propria voce sull’uso di queste tecnologie.
Raccomandazioni degli editori
- L'A.I. battere gli ingegneri umani nella progettazione di microchip? Google la pensa così
- L'A.I. è come la ricerca di immagini di Google per immagini che ancora non esistono
- Google riporta gli esseri umani ad assumere il compito di moderare i contenuti di YouTube da A.I.
- Notizie false? A.I. L'algoritmo rivela pregiudizi politici nelle storie che leggi
- A.I. l'upscaling fa sembrare questo film del 1896 come se fosse stato girato in 4K abbagliante
Migliora il tuo stile di vitaDigital Trends aiuta i lettori a tenere d'occhio il frenetico mondo della tecnologia con tutte le ultime notizie, divertenti recensioni di prodotti, editoriali approfonditi e anteprime uniche nel loro genere.
