Men der kan være en løsning - eller i det mindste en måde at overvåge algoritmer og fortælle, om de har upassende diskrimineret mod en demografisk person.
Anbefalede videoer
"Lærte forudsigelsesregler er ofte for komplekse til at forstå."
Foreslået af et team af dataloger fra Google, University of Chicago og University of Texas, Austin, Lige muligheder i superviseret læring tilgang analyserer de beslutninger, som maskinlæringsprogrammer træffer - snarere end selve beslutningsprocesserne - for at opdage diskrimination. Selve naturen af disse algoritmer er at træffe beslutninger på egen hånd, med deres egen logik, i en sort boks skjult for menneskelig gennemgang. Som sådan ser forskerne det praktisk talt om at få adgang til de sorte bokse.
"Lærte forudsigelsesregler er ofte for komplekse til at forstå," University of Chicago computerforsker og medforfatter, Nathan Srebro, fortalte Digital Trends. "Faktisk er hele pointen med maskinlæring automatisk at lære en [statistisk] god regel... ikke en, hvis beskrivelse nødvendigvis giver mening for mennesker. Med dette syn på læring i tankerne ønskede vi også at være i stand til at sikre en følelse af ikke-diskrimination, mens vi stadig behandlede indlærte regler som sorte bokse."
Srebro og medforfattere Moritz Hardt af Google og Erik Price fra UT Austin udviklede en tilgang til at analysere en algoritmes beslutninger og sikre, at den ikke diskriminerede i beslutningsprocessen. For at gøre dette førte de med det anti-fordomsfulde princip, at en beslutning om en bestemt person ikke udelukkende skulle være baseret på den pågældende persons demografiske. I tilfælde af et AI-program bør algoritmens beslutning om en person ikke afsløre noget om denne persons køn eller race på en måde, der ville være upassende diskriminerende.
Det er en test, der ikke løser problemet direkte, men hjælper med at markere og forhindre diskriminerende processer. Af denne grund er nogle forskere forsigtige.
"Maskinlæring er fantastisk, hvis du bruger den til at finde den bedste måde at dirigere en olierørledning på," Noel Sharkey, fortalte emeritus professor i robotteknologi og kunstig intelligens ved University of Sheffield The Guardian. "Indtil vi ved mere om, hvordan skævheder virker i dem, ville jeg være meget bekymret for, at de kommer med forudsigelser, der påvirker folks liv."
Srebro erkender denne bekymring, men anser det ikke for en omfattende kritik af hans holds tilgang. "Jeg er enig i, at i mange applikationer med høje indsatser indvirkning på enkeltpersoner, især af regeringen og retslige myndigheder, brug af sorte boks statistiske forudsigelser er ikke passende, og gennemsigtighed er afgørende." han sagde. "I andre situationer, når de bruges af kommercielle enheder, og når individuelle indsatser er lavere, kan sorte boks statistiske forudsigelser være passende og effektive. Det kan være svært helt at afvise dem, men det er stadig ønskeligt at kontrollere for specifik beskyttet diskrimination."
Det papir om lige muligheder i superviseret læring var en af en håndfuld, der blev præsenteret i denne måned på Neural Information Processing Systems (NIPS) i Barcelona, Spanien, som tilbød tilgange til at detektere diskrimination i algoritmer, ifølge The Guardian.
Redaktørens anbefalinger
- Google Bard kan snart blive din nye AI-livscoach
- Elon Musks nye AI-virksomhed har til formål at 'forstå universet'
- Alt internettet tilhører nu Googles AI
- Google beder arbejderne om at være på vagt over for AI-chatbots
- Hvad er MusicLM? Tjek Googles tekst-til-musik AI
Opgrader din livsstilDigital Trends hjælper læserne med at holde styr på den hurtige teknologiske verden med alle de seneste nyheder, sjove produktanmeldelser, indsigtsfulde redaktionelle artikler og enestående smugkig.
