Może jednak istnieć rozwiązanie – lub przynajmniej sposób na monitorowanie algorytmów i stwierdzenie, czy niewłaściwie dyskryminują daną grupę demograficzną.
Polecane filmy
„Wyuczone reguły przewidywania są często zbyt skomplikowane, aby je zrozumieć.”
Zaproponowany przez zespół informatyków z Google, Uniwersytetu w Chicago i Uniwersytetu Teksasu w Austin, projekt Równość szans w uczeniu się pod nadzorem podejście analizuje decyzje podejmowane przez programy uczenia maszynowego – a nie same procesy decyzyjne – w celu wykrycia dyskryminacji. Istotą tych algorytmów jest samodzielne podejmowanie decyzji, zgodnie z własną logiką, w czarnej skrzynce ukrytej przed kontrolą człowieka. W związku z tym badacze uważają, że uzyskanie dostępu do czarnych skrzynek jest praktycznie daremne.
„Wyuczone reguły przewidywania są często zbyt skomplikowane, aby je zrozumieć”, informatyk i współautor z Uniwersytetu w Chicago, Nathan Srebro, powiedział Digital Trends. „W istocie cały sens uczenia maszynowego polega na automatycznym nauczeniu się [statystycznie] dobrej reguły… a nie takiej, której opis koniecznie ma sens dla ludzi. Mając na uwadze ten pogląd na uczenie się, chcieliśmy także zapewnić poczucie niedyskryminacji, jednocześnie traktując wyuczone zasady jako czarne skrzynki”.
Srebro i współautorzy Moritza Hardta Google’a i Eryk Cena z UT Austin opracował podejście do analizowania decyzji algorytmu i sprawdzania, czy nie powoduje on dyskryminacji w procesie decyzyjnym. Aby to osiągnąć, kierowali się zasadą przeciwdziałającą uprzedzeniom, zgodnie z którą decyzja dotycząca konkretnej osoby nie powinna opierać się wyłącznie na jej demografii. W przypadku programu AI decyzja algorytmu dotycząca danej osoby nie powinna ujawniać żadnych informacji na temat płci ani rasy tej osoby w sposób, który byłby niewłaściwie dyskryminujący.
Jest to test, który nie rozwiązuje problemu bezpośrednio, ale pomaga sygnalizować procesy dyskryminacyjne i zapobiegać im. Z tego powodu niektórzy badacze są ostrożni.
„Uczenie maszynowe jest świetne, jeśli wykorzystujesz je do znalezienia najlepszego sposobu poprowadzenia rurociągu naftowego” Noela Sharkeya– powiedział emerytowany profesor robotyki i sztucznej inteligencji na Uniwersytecie w Sheffield Opiekun. „Dopóki nie dowiemy się więcej o tym, jak działają w nich uprzedzenia, byłbym bardzo zaniepokojony przewidywaniem, które wpłynie na życie ludzi”.
Srebro zdaje sobie sprawę z tych obaw, ale nie uważa ich za radykalną krytykę podejścia jego zespołu. „Zgadzam się, że w wielu zastosowaniach o dużym wpływie na jednostki, zwłaszcza przez rząd i… organów sądowych stosowanie predyktorów statystycznych z czarnej skrzynki jest niewłaściwe, a przejrzystość ma kluczowe znaczenie”, powiedział. „W innych sytuacjach, gdy są stosowane przez podmioty komercyjne i gdy stawka indywidualna jest niższa, statystyczne predyktory z czarnej skrzynki mogą być odpowiednie i skuteczne. Całkowite zakazanie ich może być trudne, ale nadal pożądane jest kontrolowanie konkretnej chronionej dyskryminacji”.
The artykuł na temat równości szans w uczeniu się pod nadzorem był jednym z kilku zaprezentowanych w tym miesiącu w Neural Information Processing Systems (NIPS) w Barcelonie w Hiszpanii, które według Opiekun.
Zalecenia redaktorów
- Google Bard może wkrótce zostać Twoim nowym trenerem życia AI
- Nowa firma Elona Muska zajmująca się sztuczną inteligencją ma na celu „zrozumienie wszechświata”
- Cały Internet należy teraz do sztucznej inteligencji Google
- Google ostrzega pracowników, aby uważali na chatboty AI
- Co to jest MusicLM? Sprawdź sztuczną inteligencję Google przekształcającą tekst na muzykę
Ulepsz swój styl życiaDigital Trends pomaga czytelnikom śledzić szybko rozwijający się świat technologii dzięki najnowszym wiadomościom, zabawnym recenzjom produktów, wnikliwym artykułom redakcyjnym i jedynym w swoim rodzaju zajawkom.
