Sõnasõnaline vähemuse aruanne: ennustava politseitöö algoritmilised eelarvamused

Ennustav politseitöö pidi muutma politseitöö viisi, juhatades meid arukate seaduste maailma jõustamine, mille puhul eelarvamus eemaldati ja politsei saaks andmetele vastata, mitte küürud. Kuid kümme aastat pärast seda, kui enamik meist esimest korda sõna "ennustav politseitöö" kuulis, tundub selge, et see pole töötanud. Avaliku vastureaktsiooni ajendiks on tehnoloogia kasutuses märgatavalt vähenenud, võrreldes vaid mõne aasta taguse ajaga.

Tänavu aprillis kärpis Los Angeles – mis LA Timesi andmetel oli kuritegevuse ennustamisel andmetega pioneeriks – oma ennustava politseiprogrammi rahastamist, süüdistades kulusid. "See on raske otsus," politseiülem Michel Moore rääkis LA Timesile. „See on strateegia, mida kasutasime, kuid kuluprognoosid ulatuvad sadade tuhandete dollariteni, et kulutada sellele õigusele nüüd versus selle raha leidmine ja selle raha suunamine muudesse kesksematesse tegevustesse on see, mida ma pean tegema.

Mis läks valesti? Kuidas võiks midagi, mida reklaamitakse kui „nutikat” tehnoloogiat, tekitada veelgi süvenevaid eelarvamusi ja diskrimineerimist? Ja kas unistus ennustavast politseitööst on selline, mida saaks õige algoritmiga kohandada – või ummiktee õiglasemas ühiskonnas, mis praegu maadleb selle üle, kuidas politsei peaks tegutsema?

Ennustava politseitöö lubadus

Ennustav politseitöö oma praegusel kujul pärineb umbes kümme aastat tagasi psühholoog Colleen McCue ja Los Angelese politseiülema Charlie Becki 2009. aasta artiklist pealkirjaga "Ennustav politseitöö: mida saame Walmartilt ja Amazonilt majanduslanguse ajal kuritegevusega võitlemise kohta õppida?Dokumendis uurisid nad viisi, kuidas suured jaemüüjad kasutasid suurandmeid, et aidata avastada varasemate klientide käitumismustreid, mida saaks kasutada tulevase käitumise ennustamiseks. Tänu edusammudele nii andmetöötluses kui ka andmete kogumises soovitasid McCue ja Beck, et kuritegevuse andmeid on võimalik koguda ja analüüsida reaalajas. Neid andmeid saaks seejärel kasutada veel toimumata kuritegude ennetamiseks, ennetamiseks ja neile tõhusamaks reageerimiseks.

Pärast seda on ennustav politseitöö paljudes Ameerika Ühendriikide piirkondades ja mujal maailmas muutunud äraviskavast ideest reaalsuseks. Selle käigus on ta võtnud eesmärgiks muuta politseitöö reageerivast jõust proaktiivseks; kasutades mõningaid läbimurdeid andmepõhises tehnoloogias, mis võimaldab mustreid reaalajas tuvastada ja nende järgi tegutseda.

"On kaks peamist ennustavat politseitöö vormi," Andrew Ferguson, Columbia ringkonna ülikooli õigusteaduse professor David A. Clarke School of Law ja autor Suurandmete politseitöö tõus: järelevalve, rass ja õiguskaitse tulevik, ütles Digital Trends. "[Need on] kohapõhine ennustav politseitöö ja isikupõhine ennustav politsei."

Mõlemal juhul määravad ennustavad politseisüsteemid kõnealusele isikule või kohale riskiskoori, mis julgustab politseid teatud ajavahemike järel jälgima. Esimene neist lähenemisviisidest, kohapõhine ennustav politseitöö, keskendub peamiselt politseipatrullidele. See hõlmab varasema statistika põhjal kuritegevuse kaardistamise ja tulevaste kuritegude tõenäoliste kohtade analüüsi kasutamist.

Teine lähenemisviis keskendub tõenäosuse ennustamisele, et isik kujutab endast potentsiaalset tulevast riski. Näiteks 2013. aastal saadeti Chicago politseiülem 22-aastase Robert McDanieli koju, kelle oli Chicago siselinnas märkinud potentsiaalseks ohuks või relvavägivalla toimepanijaks algoritm. Algoritmi koostamisel aitas kuumuse nimekiri otsida mustreid, mis võiksid ennustada tulevasi õigusrikkujaid või ohvrid, isegi kui nad ise ei olnud teinud midagi, mis õigustaks seda kontrolli peale a profiil.

Nagu Chicago Tribune märkis: "Strateegia nõuab kuumade nimekirjas olijate individuaalset hoiatamist, et edasine kuritegelik tegevus, isegi kõige pisemate süütegude korral langeb seadus täielikult alla neid."

Ennustava politseitöö unistus seisnes selles, et kvantifitseeritavate andmete alusel tegutsedes muudaks see politseitöö mitte ainult tõhusamaks, vaid ka vähem kalduvaks oletustele ja sellest tulenevalt eelarvamustele. Pooldajad väitsid, et see muudaks politseitööd paremaks ja tooks sisse uue nutika politseitöö ajastu. Ent peaaegu algusest peale on ennustaval politseitööl olnud kindlad kriitikud. Nad väidavad, et selle asemel, et aidata vabaneda sellistest probleemidest nagu rassism ja muud süsteemsed eelarvamused, võib ennustav politsei aidata neid juurduda. Ja raske on vaielda, et neil pole mõtet.

Diskrimineerivad algoritmid

Idee, et masinõppel põhinevad ennustavad politseisüsteemid võivad õppida diskrimineerima selliste tegurite alusel nagu rass, pole midagi uut. Masinõppetööriistu koolitatakse tohutute andmekogude abil. Ja seni, kuni neid andmeid kogub süsteem, milles rass on jätkuvalt ülekaalukas tegur, võib see põhjustada diskrimineerimist.

Nagu Renata M. O’Donnell kirjutab 2019. aasta artiklis pealkirjaga "Rassistlike ennustavate politseitöö algoritmide väljakutse võrdse kaitse klausli alusel”, masinõppe algoritmid õpivad andmetest, mis on saadud justiitssüsteemist, mille kohaselt „mustad ameeriklased on osariigi vanglates vangistatud kiirusega see on 5,1 korda suurem kui valgete vangistus ja praeguste suundumuste kohaselt võib iga kolmas täna sündinud mustanahaline mees oma elu jooksul vanglasse sattuda. jätka."

"Andmed ei ole objektiivsed, " ütles Ferguson Digital Trendsile. "Meie oleme lihtsalt taandatud kahendkoodiks. Reaalses maailmas töötavad andmepõhised süsteemid pole objektiivsemad, õiglasemad ega erapooletumad kui pärismaailm. Kui teie reaalne maailm on struktuuriliselt ebavõrdne või rassiliselt diskrimineeriv, peegeldab andmepõhine süsteem seda ühiskondlikku ebavõrdsust. Sisenevad sisendid on rikutud eelarvamusega. Analüüsi rikub eelarvamus. Ja politseivõimu mehhanismid ei muutu ainult seetõttu, et süsteeme juhib tehnoloogia.

Ferguson toob näite arreteerimisest kui ühe pealtnäha objektiivsest riski ennustamise tegurist. Arreteerimist moonutab aga politsei ressursside jaotus (nt koht, kus nad patrullivad) ja kuritegevuse liigid, mis tavaliselt nõuavad vahistamist. See on vaid üks näide potentsiaalselt probleemsetest andmetest.

Määrdunud andmete ohud

Andmekaevanduses nimetatakse puuduvaid ja valesid andmeid mõnikord "määrdunud andmeteks". A A.I. teadlaste 2019. aasta artikkel. Nüüd New Yorgi ülikooli instituut laiendab seda mõistet ka andmetele, mida mõjutavad rikutud, kallutatud ja ebaseaduslikud tavad – olgu see siis tahtlikult manipuleeritud, mis on moonutatud üksikisiku ja ühiskondlikud eelarvamused. See võib sisaldada näiteks andmeid, mis on saadud süütu isiku vahistamisel, kelle kohta on pandud tõendeid või keda süüdistatakse muul viisil.

Teatav iroonia on selles, et viimastel aastakümnetel on andmeühiskonna nõudmised, milles kõik on seotud kvantifitseerimise ja malmist numbriliste sihtmärkidega, on just toonud kaasa palju … noh, tõesti halvad andmed. HBO sari Juhe demonstreeris reaalset "statistika peatamise" fenomeni ja aastad pärast saate eetrist lahkumist on pakkunud palju näited tegelikust süsteemsest andmetega manipuleerimisest, võltsitud politseiaruannetest ja põhiseadusevastastest tavadest, mis on saatnud süütuid inimesi vanglas.

Halvad andmed, mis võimaldavad võimul olevatel inimestel sihtmärke kunstlikult tabada, on üks asi. Kuid ühendage see algoritmide ja ennustavate mudelitega, mis kasutavad seda maailma modelleerimise alusena, ja võite saada midagi palju hullemat.

Teadlased on näidanud, kuidas ennustavatesse politseialgoritmidesse ühendatud küsitavad kuritegevuse andmed võivad luua nn.põgenenud tagasiside ahelad”, mille puhul saadetakse politseid korduvalt samadesse piirkondadesse sõltumata tegelikust kuritegevuse määrast. Üks selle artikli kaasautoritest, arvutiteadlane Suresh Venkatasubramanian, ütleb, et masinõppemudelid võivad oma modelleerimise kaudu luua vigaseid eeldusi. Nagu vana ütlus selle kohta, kuidas haamriga inimese jaoks näeb iga probleem välja nagu nael, modelleerivad need süsteemid ainult teatud probleemi elemente – ja kujutage ette ainult ühte võimalikku tulemust.

"[Asi, mida] nendes mudelites ei käsitleta, on see, mil määral te modelleerite tõsiasja, et rohkem politseinikke piirkonda visates võib tegelikult olla alandada seal elavate inimeste elukvaliteeti? Utah’ ülikooli andmetöötluskooli professor Venkatasubramanian rääkis Digitalile Trendid. "Me eeldame, et rohkem politseinikke on parem asi. Kuid nagu me praegu näeme, ei ole rohkem politseinike olemasolu tingimata hea. See võib tegelikult asju hullemaks muuta. Mitte üheski mudelis, mida ma kunagi näinud olen, pole keegi kunagi küsinud, mis maksab piirkonda rohkem politseid.

Ennustava politseitöö ebakindel tulevik

Ennustava politseitööga tegelevad inimesed kasutavad mõnikord ebairooniliselt terminit "vähemuste aruanne", et viidata sellele, millist ennustust nad teevad. Seda terminit kasutatakse sageli viitena sellele 2002. aasta samanimeline film, mis omakorda põhines lõdvalt Philip K. 1956. aasta novellil. Dick. sisse Vähemuse aruanne, peab spetsiaalne kuritegevuse eelpolitsei osakond kurjategijaid kinni, tuginedes neile tulevikus toimepandavate kuritegude eelteadmisele. Neid prognoose esitavad kolm selgeltnägijat, keda nimetatakse eelkäijateks.

Aga pööre sisse Vähemuse aruanne on see, et ennustused ei ole alati täpsed. Ühe eelkäija eriarvamused annavad alternatiivse tulevikuvaate, mis surutakse alla kartuses, et süsteem näib ebausaldusväärne.

Praegu seisab ennustav politsei silmitsi oma ebakindla tulevikuga. Lisaks uutele tehnoloogiatele, nagu näotuvastus, pole õiguskaitseasutustele võimalikuks kasutamiseks kättesaadav tehnoloogia kunagi olnud võimsam. Samal ajal on teadlikkus ennustava politseitöö kasutamisest põhjustanud avalikku vastureaktsiooni, mis võis tegelikult aidanud seda tühistada. Ferguson ütles Digital Trendsile, et ennustavate politseitööriistade kasutamine on viimastel aastatel olnud langustrendis.

"Oma haripunktis oli [kohapõhine ennustav politseitöö] enam kui 60 suuremas linnas ja kasvas, kuid selle tulemusena edukas kogukonna organiseerimine, on seda suures osas vähendatud ja/või asendatud muude andmepõhiste vormidega analüütika," ütles ta. "Lühidalt öeldes muutus mõiste ennustav politseitöö mürgiseks ja politseiosakonnad õppisid andmetega tehtut ümber nimetama. Isikupõhise ennustava politseitöö langus oli järsem. Kaks peamist selle loomisesse investeerinud linna - Chicago ja Los Angeles - loobusid oma isikupõhisest strateegiad pärast teravat kogukonnakriitikat ja laastavaid siseauditeid, mis näitavad, et taktika ei olnud tööd. Ennustavad loendid polnud mitte ainult vigased, vaid ka ebatõhusad.

Valed tööriistad töö jaoks?

Kuid, Rashida Richardson, A.I. poliitikauuringute direktor. Now Institute ütles, et selle tehnoloogia kasutamisel on liiga palju läbipaistmatust. "Me ei tea ikka veel läbipaistmatuse puudumise tõttu valitsuselt tehnoloogia omandamisel ja paljudel juhtudel lüngad olemasolevates hankemenetlustes, mis võivad teatud tehnoloogiaostud avalikkuse kontrolli eest kaitsta. ta ütles. Ta toob näite tehnoloogiast, mida võidakse anda politseiosakonnale tasuta või mille võib osta kolmas osapool. "Me teame sellistest uuringutest nagu minu ja meedia, et paljud USA suurimad politseiosakonnad on kasutanud tehnoloogia mingil hetkel, kuid on ka palju väikeseid politseijaoskondi, kes seda kasutavad või on seda piiratud aja jooksul kasutanud ajast."

Arvestades praegust küsitlust politsei rolli kohta, kas tekib kiusatus uuesti omaks võtta ennustav politseitöö kui andmepõhise otsuste tegemise tööriist – võib-olla vähem düstoopilise ulme all bränding? On võimalus, et selline taastumine võib tekkida. Kuid Venkatasubramanian on väga skeptiline, et masinõpe, nagu praegu praktiseeritakse, on selle töö jaoks õige tööriist.

„Masinõppe tervik ja selle edu kaasaegses ühiskonnas põhineb eeldusel, et olenemata sellest, mis on tegelik probleem, lõpuks taandub andmete kogumine, mudeli koostamine, tulemuse ennustamine – ja te ei pea domeeni pärast muretsema. ta ütles. "Saate kirjutada sama koodi ja rakendada seda 100 erinevas kohas. See on abstraktsiooni ja kaasaskantavuse lubadus. Probleem on selles, et kui me kasutame seda, mida inimesed nimetavad sotsiaal-tehnilisteks süsteemideks, kus inimesed ja tehnoloogia on põimunud keeruliste lainetena, ei saa te seda teha. Te ei saa lihtsalt tükki ühendada ja oodata, et see töötab. Sest [seal on] pulsatsiooniefektid selle tüki panemisega ja asjaolu, et neid on erinevaid mängijad, kellel on sellises süsteemis erinevad plaanid, ja nad õõnestavad süsteemi oma vajaduste järgi erinevatel viisidel. Tõhususest rääkides tuleb kõiki neid asju arvesse võtta. Jah, võite abstraktselt öelda, et kõik läheb hästi, kuid seal on ei mingit abstraktset. On ainult kontekst, milles te töötate."