Dwóch dyrektorów Google stwierdziło w piątek, że uprzedzenia w sztucznej inteligencji szkodzą i tak już zmarginalizowanym społecznościom w Ameryce i że należy zrobić więcej, aby tak się nie stało. X. Oko, specjalista ds. odpowiedzialnych innowacji w Google oraz Angela Williams, menedżer ds. zasad w Google, przemawiał pod adresem (Nie IRL) Szczyt Równości, wydarzenie organizowane przez Lesbians Who Tech & Allies, największą na świecie organizację LGBTQ skupiającą się na technologii, zrzeszającą kobiety, osoby niebinarne i transpłciowe z całego świata.
W oddzielnyrozmowyzajęli się sposobami wykorzystania technologii uczenia maszynowego do wyrządzenia szkody społeczności czarnej i innym społecznościom w Ameryce i szerzej na całym świecie.
Polecane filmy
Błąd w algorytmach NIE JEST TYLKO PROBLEMEM Z DANYMI. Decyzja o wykorzystaniu sztucznej inteligencji może być stronnicza, sposób, w jaki algorytm się uczy, może być stronniczy, a sposób, w jaki użytkownicy wywierają wpływ na system/interakcję z nim/postrzegają system, może wzmocnić stronniczość! wymeldować się
@timnitGebrupraca, aby dowiedzieć się więcej!- X. Oko??? (@TechWithX) 26 czerwca 2020 r
Williams omówił wykorzystanie sztucznej inteligencji w przypadku szeroko zakrojonego nadzoru, jego rola w przesadna kontrola policyjnaoraz jego wdrożenie w przypadku stronniczego wymiaru sprawiedliwości. „[To nie jest] tak, że ta technologia jest rasistowska, ale możemy w niej zakodować nasze własne, nieświadome uprzedzenia” – powiedziała. Williams podkreślił przypadek Roberta Juliana-Borchaka Williamsa, Afroamerykanin z Detroit, który został niedawno niesłusznie aresztowany po tym, jak system rozpoznawania twarzy błędnie dopasował jego zdjęcie do materiału filmowego przedstawiającego złodzieja sklepowego. Poprzednie badania wykazały, że systemy rozpoznawania twarzy mogą sobie z tym radzić rozróżniać różnych czarnych ludzi. „To tutaj A.I. … inwigilacja w prawdziwym świecie może pójść bardzo źle” – stwierdził Williams.
X. Eyeé omówił także, w jaki sposób sztuczna inteligencja może pomóc „skalować i wzmacniać nieuczciwe uprzedzenia”. Oprócz bardziej quasi-dystopijnych, przyciągających uwagę zastosowań AI, Eyeé skupiło się na tym, jak uprzedzenia mogą wkraść się do bardziej pozornie przyziemnych, codziennych zastosowań technologii — w tym technologii Google narzędzia. „W Google nie są nam obce te wyzwania” – powiedział Eyeé. „W ostatnich latach… wielokrotnie pojawialiśmy się na pierwszych stronach gazet, informując o negatywnym wpływie naszych algorytmów na ludzi”. Na przykład Google opracowało narzędzie do klasyfikacja toksyczności komentarzy w Internecie. Chociaż może to być bardzo pomocne, było również problematyczne: wyrażenia takie jak „Jestem czarną gejką” były początkowo klasyfikowane jako bardziej toksyczne niż „Jestem białym człowiekiem”. Było to spowodowane luką w zbiorach danych szkoleniowych i większą liczbą rozmów na temat określonych tożsamości niż inni.
Obydwaj dyrektorzy Google stwierdzili, że nie ma ogólnego rozwiązania tych problemów. Gdziekolwiek zostaną znalezione problemy, Google pracuje nad wyeliminowaniem uprzedzeń. Jednak zakres potencjalnych miejsc, w których stronniczość może przedostać się do systemów — od projektowania algorytmów po ich wykorzystanie wdrożenie w kontekście społecznym, w którym tworzone są dane — oznacza, że zawsze będą pojawiać się problemy przykłady. Kluczem jest świadomość tego, umożliwienie analizy takich narzędzi i umożliwienie różnym społecznościom wyrażenia swojego głosu na temat stosowania tych technologii.
Zalecenia redaktorów
- Czy sztuczna inteligencja pokonać inżynierów w projektowaniu mikroczipów? Google tak uważa
- Sztuczna inteligencja BigSleep jest jak wyszukiwarka grafiki Google, szukająca zdjęć, które jeszcze nie istnieją
- Google przywraca ludzi, aby przejęli moderowanie treści YouTube od A.I.
- Fałszywe wiadomości? sztuczna inteligencja algorytm ujawnia stronniczość polityczną w czytanych przez Ciebie historiach
- sztuczna inteligencja Upscaling sprawia, że ten film z 1896 roku wygląda, jakby został nakręcony w oszałamiającej rozdzielczości 4K
Ulepsz swój styl życiaDigital Trends pomaga czytelnikom śledzić szybko rozwijający się świat technologii dzięki najnowszym wiadomościom, zabawnym recenzjom produktów, wnikliwym artykułom redakcyjnym i jedynym w swoim rodzaju zajawkom.
