ლიტერატურული უმცირესობის ანგარიში: პროგნოზირებადი პოლიციის ალგორითმული მიკერძოება

პროგნოზირებადი პოლიცია უნდა შეცვლილიყო პოლიციის განხორციელების გზა და გაგვეყვანა ჭკვიანი კანონის სამყაროში აღსრულება, რომლის დროსაც მიკერძოება მოიხსნა და პოლიცია შეძლებდა უპასუხოს მონაცემებს და არა ხუმრობები. მაგრამ ათწლეულის შემდეგ, რაც ჩვენმა უმეტესობამ პირველად მოისმინა ტერმინი „პროგნოზირებადი პოლიცია“, აშკარად ჩანს, რომ ის არ მუშაობდა. საზოგადოების უკუჩვენებით გამოწვეული, ტექნოლოგია განიცდის მნიშვნელოვან შემცირებას მის გამოყენებაში, რამდენიმე წლის წინანდელთან შედარებით.

მიმდინარე წლის აპრილში, ლოს-ანჯელესმა - რომელიც, LA Times-ის თანახმად, "პიონერი იყო დანაშაულის წინასწარმეტყველების მონაცემებით" - შეამცირა დაფინანსება მისი პროგნოზირებადი პოლიციის პროგრამისთვის, ადანაშაულებდა ხარჯებს. "ეს რთული გადაწყვეტილებაა", - განაცხადა პოლიციის უფროსმა მიშელ მურმა განუცხადა LA Times-ს. ”ეს არის სტრატეგია, რომელიც ჩვენ გამოვიყენეთ, მაგრამ ხარჯების პროგნოზები ასობით ათასი დოლარია, რომ დახარჯოთ ამის უფლება ახლა მე უნდა გავაკეთო ამ ფულის პოვნისა და სხვა უფრო ცენტრალური საქმიანობებისკენ მიმართვის წინააღმდეგ“.

Რა მოხდა? როგორ შეიძლება რაღაც რეკლამირებულმა, როგორც „ჭკვიანმა“ ტექნოლოგიამ, კიდევ უფრო გაამყაროს მიკერძოება და დისკრიმინაცია? და არის თუ არა ოცნება პროგნოზირებადი პოლიციის შესახებ, რომელიც შეიძლება შეიცვალოს სწორი ალგორითმით - თუ ჩიხი უფრო სამართლიან საზოგადოებაში, რომელიც ამჟამად ებრძვის როგორ უნდა მოქმედებდეს პოლიცია?

პროგნოზირებადი პოლიციის დაპირება

პროგნოზირებადი პოლიცია მისი ამჟამინდელი ფორმით თარიღდება დაახლოებით ერთი ათწლეულით, 2009 წელს ფსიქოლოგ კოლინ მაკკუისა და ლოს-ანჯელესის პოლიციის უფროსის ჩარლი ბეკის ნაშრომით, სათაურით "პროგნოზირებადი პოლიცია: რა შეგვიძლია ვისწავლოთ Walmart-სა და Amazon-ისგან დანაშაულთან ბრძოლის შესახებ რეცესიის პირობებში?” ნაშრომში მათ გამოიყენეს დიდი მონაცემები დიდი საცალო ვაჭრობის მიერ, რათა დაეხმარონ წარსულში მომხმარებელთა ქცევის შაბლონებს, რომლებიც შეიძლება გამოყენებულ იქნას მომავალი ქცევის პროგნოზირებისთვის. როგორც გამოთვლით, ასევე მონაცემთა შეგროვებაში მიღწეული მიღწევების წყალობით, მაკკიუმ და ბეკმა ვარაუდობენ, რომ შესაძლებელი იყო დანაშაულის მონაცემების რეალურ დროში შეგროვება და ანალიზი. შემდეგ ეს მონაცემები შეიძლება გამოყენებულ იქნას იმ დანაშაულების მოსალოდნელად, პრევენციისთვის და უფრო ეფექტური რეაგირებისთვის, რომლებიც ჯერ არ მომხდარა.

მას შემდეგ, რაც რამდენიმე წელია, პროგნოზირებადი პოლიცია გადაიზარდა უაზრო იდეიდან რეალობად შეერთებული შტატების ბევრ ნაწილში, დანარჩენ მსოფლიოში. ამ პროცესში ის მიზნად ისახავს პოლიციის რეაქტიული ძალის შეცვლას პროაქტიულ ძალად; მონაცემთა ბაზაზე ორიენტირებული ტექნოლოგიის ზოგიერთი გარღვევის საფუძველზე, რაც შესაძლებელს ხდის შაბლონების რეალურ დროში აღმოჩენას და მათზე მოქმედების საშუალებას.

„პროგნოზირებადი პოლიციის ორი ძირითადი ფორმა არსებობს. ენდრიუ ფერგიუსონიკოლუმბიის ოლქის უნივერსიტეტის სამართლის პროფესორი დევიდ ა. კლარკის სამართლის სკოლა და ავტორი დიდი მონაცემების პოლიციის აღზევება: მეთვალყურეობა, რასა და სამართალდამცავი ორგანოების მომავალიგანუცხადა Digital Trends-ს. ”[ეს არის] ადგილზე დაფუძნებული პროგნოზირებადი პოლიცია და ადამიანზე დაფუძნებული პროგნოზირებადი პოლიცია.”

ორივე შემთხვევაში, პროგნოზირებადი საპოლიციო სისტემები ანიჭებენ რისკის ქულას განსახილველ პირს ან ადგილს, რაც მოუწოდებს პოლიციას თვალყური ადევნოს მოცემულ ინტერვალში. ამ მიდგომებიდან პირველი, ადგილებზე დაფუძნებული პროგნოზირებადი პოლიცია, ფოკუსირებულია ძირითადად პოლიციის პატრულირებაზე. იგი მოიცავს დანაშაულის რუკების გამოყენებას და ანალიტიკას მომავალი დანაშაულის სავარაუდო ადგილების შესახებ, წინა სტატისტიკაზე დაყრდნობით.

მეორე მიდგომა ფოკუსირებულია იმის პროგნოზირებაზე, რომ ინდივიდი უქმნის პოტენციურ სამომავლო რისკს. მაგალითად, 2013 წელს ჩიკაგოს პოლიციის მეთაური გაგზავნეს 22 წლის რობერტ მაკდანიელის სახლში. რომელიც იყო მონიშნული, როგორც პოტენციური რისკის ქვეშ ან ცეცხლსასროლი იარაღით ძალადობის ჩამდენი ქალაქ ჩიკაგოში ალგორითმი. ალგორითმის „სითბო სია“ დაეხმარა შეკრებას, მოძებნა შაბლონები, რომლებსაც შეეძლოთ მომავალი დამნაშავეების პროგნოზირება. ან მსხვერპლს, მაშინაც კი, თუ მათ თავად არ გაუკეთებიათ არაფერი იმისთვის, რომ ამ შემოწმებას არ დაემორჩილოს პროფილი.

როგორც აღნიშნა Chicago Tribune-მა: ”სტრატეგია მოითხოვს ინდივიდუალურად გააფრთხილოს ცხელ სიაში მყოფი პირები, რომ შემდგომი დანაშაულებრივი ქმედებები, ყველაზე წვრილმანი დანაშაულის შემთხვევაშიც კი, გამოიწვევს კანონის სრული სიმტკიცის დაშლას მათ.”

პროგნოზირებადი პოლიციის ოცნება იყო ის, რომ რაოდენობრივ მონაცემებზე მოქმედებით, იგი გახდის პოლიციას არა მხოლოდ უფრო ეფექტური, არამედ ნაკლებად მიდრეკილი გამოცნობისკენ და, შედეგად, მიკერძოებისკენ. მომხრეები აცხადებდნენ, რომ ეს შეცვლიდა პოლიციას უკეთესობისკენ და ჭკვიანური პოლიციის ახალ ეპოქას წამოიწყებდა. თუმცა, თითქმის თავიდანვე, პროგნოზირებად პოლიციას მტკიცე კრიტიკოსები ჰყავდა. ისინი ამტკიცებენ, რომ იმის მაგივრად, რომ დაეხმარონ ისეთი პრობლემების თავიდან აცილებაში, როგორიცაა რასიზმი და სხვა სისტემური მიკერძოება, პროგნოზირებადი პოლიცია შეიძლება რეალურად დაეხმაროს მათ გამყარებაში. და ძნელია კამათი, რომ მათ აზრი არ აქვთ.

დისკრიმინაციული ალგორითმები

იდეა, რომ მანქანათმცოდნეობაზე დაფუძნებული პროგნოზირებადი პოლიციის სისტემებს შეუძლიათ ისწავლონ დისკრიმინაცია ისეთი ფაქტორების საფუძველზე, როგორიცაა რასა, ახალი არ არის. მანქანათმცოდნეობის ხელსაწყოები გაწვრთნილი არიან მონაცემთა მასიური ჭურჭლით. და მანამ, სანამ ეს მონაცემები გროვდება სისტემის მიერ, რომელშიც რასა კვლავ აბსოლუტური ფაქტორია, ამან შეიძლება გამოიწვიოს დისკრიმინაცია.

როგორც რენატა მ. ო’დონელი წერს 2019 წლის ნაშრომში, სახელწოდებით „რასისტული პროგნოზირებადი პოლიციის ალგორითმების გამოწვევა თანაბარი დაცვის პუნქტის მიხედვით, მანქანური სწავლის ალგორითმები სწავლობენ მართლმსაჯულების სისტემიდან მიღებული მონაცემებიდან, რომელშიც „შავკანიანი ამერიკელები პატიმრობაში არიან სახელმწიფო ციხეებში. ეს 5,1-ჯერ აღემატება თეთრკანიანთა პატიმრობას და დღეს დაბადებული ყოველი სამი შავკანიანი კაციდან ერთს შეუძლია სიცოცხლის განმავლობაში ციხეში წასვლა, თუ არსებული ტენდენციებია. გააგრძელე.”

”მონაცემები არ არის ობიექტური,” - განუცხადა ფერგიუსონმა Digital Trends-ს. ”ეს მხოლოდ ჩვენ ვართ დაყვანილი ორობითი კოდით. მონაცემებზე ორიენტირებული სისტემები, რომლებიც მოქმედებენ რეალურ სამყაროში, არ არიან უფრო ობიექტური, სამართლიანი ან მიუკერძოებელი, ვიდრე რეალურ სამყაროში. თუ თქვენი რეალური სამყარო სტრუქტურულად არათანაბარი ან რასობრივი დისკრიმინაციულია, მონაცემთა ბაზაზე ორიენტირებული სისტემა აირეკლავს ამ სოციალურ უთანასწორობას. შეყვანის შეყვანა დაბინძურებულია მიკერძოებით. ანალიზი დაბინძურებულია მიკერძოებით. და პოლიციის უფლებამოსილების მექანიზმები არ იცვლება მხოლოდ იმიტომ, რომ არსებობს ტექნოლოგია, რომელიც ხელმძღვანელობს სისტემებს. ”

ფერგიუსონს მოჰყავს დაპატიმრების მაგალითი, როგორც ერთი შეხედვით ობიექტური ფაქტორი რისკის პროგნოზირებისთვის. თუმცა, დაკავებები შეიცვლება პოლიციის რესურსების გამოყოფით (როგორიცაა პატრულირება) და დანაშაულის ტიპები, რომლებიც, როგორც წესი, ითხოვენ დაკავებას. ეს არის პოტენციურად პრობლემური მონაცემების მხოლოდ ერთი ილუსტრაცია.

ბინძური მონაცემების საფრთხე

დაკარგული და არასწორი მონაცემები ზოგჯერ მონაცემთა მოპოვებაში მოიხსენიება, როგორც "ბინძური მონაცემები". ა 2019 წლის ნაშრომი მკვლევართა A.I. ახლა ინსტიტუტი ნიუ-იორკის უნივერსიტეტში აფართოებს ამ ტერმინს, რათა ასევე მიუთითებდეს მონაცემებზე, რომლებზეც გავლენას ახდენს კორუმპირებული, მიკერძოებული და უკანონო პრაქტიკა - იქნება ეს განზრახ მანიპულირებისგან, რომელიც დამახინჯებულია ინდივიდუალური და სოციალური მიკერძოება. ეს შეიძლება, მაგალითად, მოიცავდეს მონაცემებს, რომლებიც წარმოიქმნება უდანაშაულო პირის დაკავების შედეგად, რომელსაც ჰქონდა ჩადებული მტკიცებულებები ან სხვაგვარად ცრუ ბრალდებული.

არის გარკვეული ირონია იმაში, რომ გასული ათწლეულების განმავლობაში მონაცემთა საზოგადოების მოთხოვნები, რომელშიც ყველაფერი რაოდენობრივ და თუჯის ციფრულ მიზნებს ეხება, ახლახანს მიგვიყვანს ბევრი… კარგი, მართლა ცუდი მონაცემები. HBO სერია მავთული აჩვენა რეალურ სამყაროში არსებული ფენომენი „სტატისტიკის ხუმრობა“ და შოუს ეთერში გასვლიდან გასული წლების განმავლობაში უამრავი ფაქტობრივი სისტემური მონაცემების მანიპულირების მაგალითები, პოლიციის ყალბი ანგარიშები და არაკონსტიტუციური პრაქტიკა, რამაც უდანაშაულო ხალხი გაგზავნა ციხე.

ცუდი მონაცემები, რომლებიც ძალაუფლების მქონე ადამიანებს საშუალებას აძლევს ხელოვნურად დაარტყონ სამიზნეებს, ერთია. მაგრამ დააკავშირეთ ეს ალგორითმებთან და პროგნოზირებულ მოდელებთან, რომლებიც ამას იყენებენ სამყაროს მოდელირების საფუძვლად და თქვენ პოტენციურად მიიღებთ რაღაც ბევრად უარესს.

მკვლევარებმა აჩვენეს, თუ როგორ შეუძლია საეჭვო დანაშაულის მონაცემებმა, რომლებიც ჩართულია პროგნოზირებად პოლიციის ალგორითმებში, შექმნას ის, რაც მოიხსენიება როგორც ”გაქცეული უკუკავშირის მარყუჟები”, რომელშიც პოლიცია არაერთხელ იგზავნება იმავე უბნებში, მიუხედავად იმისა, თუ რა არის დანაშაული. ამ ნაშრომის ერთ-ერთი თანაავტორი, კომპიუტერული მეცნიერი სურეშ ვენკატასუბრამანიანი, ამბობს, რომ მანქანათმცოდნეობის მოდელებს შეუძლიათ შექმნან გაუმართავი ვარაუდები მათი მოდელირების საშუალებით. ძველი გამონათქვამის მსგავსად, თუ როგორ, ჩაქუჩის მქონე ადამიანისთვის, ყველა პრობლემა ლურსმანს ჰგავს, ეს სისტემები პრობლემის მხოლოდ გარკვეულ ელემენტებს აყალიბებენ - და წარმოიდგინეთ მხოლოდ ერთი შესაძლო შედეგი.

„[რაღაც] ამ მოდელებში არ არის გათვალისწინებული, არის ის, თუ რამდენად აყალიბებთ იმ ფაქტს, რომ მეტი პოლიციელის გადაგდება შეიძლება რეალურად შეამცირებს ცხოვრების ხარისხს იქ მცხოვრები ადამიანებისთვის?” ვენკატასუბრამანიანმა, იუტას უნივერსიტეტის გამოთვლითი სკოლის პროფესორმა, განუცხადა Digital-ს ტენდენციები. ”ჩვენ ვვარაუდობთ, რომ მეტი პოლიციელი უკეთესია. მაგრამ, როგორც ახლა ვხედავთ, მეტი პოლიციის ყოლა სულაც არ არის კარგი. მას შეუძლია რეალურად გააუარესოს ყველაფერი. არცერთ მოდელში, რომელიც მე ოდესმე მინახავს, ​​არავის დაუკითხავს, ​​რა ჯდება ამ ტერიტორიაზე მეტი პოლიციის მოთავსება.

პროგნოზირებადი პოლიციის გაურკვეველი მომავალი

ისინი, ვინც მუშაობენ პროგნოზირებად პოლიციაში, ხანდახან ცალსახად იყენებენ ტერმინს „უმცირესობის მოხსენება“ იმ სახის პროგნოზის აღსანიშნავად, რომელსაც ისინი აკეთებენ. ტერმინი ხშირად გამოიყენება, როგორც მითითება 2002 წლის ამავე სახელწოდების ფილმი, რომელიც თავის მხრივ თავისუფლად ეფუძნებოდა 1956 წლის მოთხრობას ფილიპ კ. დიკი. In უმცირესობის ანგარიშიპრედანაშაულის პოლიციის სპეციალური დეპარტამენტი კრიმინალებს აკავებს დანაშაულის წინასწარი შეცნობის საფუძველზე, რომელიც მომავალში იქნება ჩადენილი. ეს პროგნოზები მოწოდებულია სამი ფსიქიკის მიერ, სახელწოდებით "პრეკოგები".

მაგრამ ირონია უმცირესობის ანგარიში არის ის, რომ პროგნოზები ყოველთვის არ არის ზუსტი. ერთ-ერთი წინამორბედის განსხვავებული ხედვები იძლევა მომავლის ალტერნატიულ ხედვას, რომელიც ჩახშობილია სისტემის არასანდო გამოჩენის შიშით.

ამჟამად, პროგნოზირებადი პოლიცია საკუთარი გაურკვეველი მომავლის წინაშე დგას. ახალ ტექნოლოგიებთან ერთად, როგორიცაა სახის ამოცნობა, სამართალდამცავი ორგანოებისთვის ხელმისაწვდომი ტექნოლოგია არასოდეს ყოფილა ასეთი ძლიერი. ამავდროულად, პროგნოზირებადი პოლიციის გამოყენების შესახებ ინფორმირებულობამ გამოიწვია საზოგადოების რეაქცია, რამაც შესაძლოა რეალურად ხელი შეუწყო მის აღმოფხვრას. ფერგიუსონმა განუცხადა Digital Trends-ს, რომ პროგნოზირებადი საპოლიციო ინსტრუმენტების გამოყენება ბოლო რამდენიმე წლის განმავლობაში „შემცირდა“.

„ზენიტში [ადგილებზე დაფუძნებული პროგნოზირებადი პოლიცია] იყო 60-ზე მეტ ქალაქში და იზრდებოდა, მაგრამ შედეგად წარმატებული საზოგადოების ორგანიზება, იგი დიდწილად შემცირდა და ან შეიცვალა მონაცემების საფუძველზე სხვა ფორმებით ანალიტიკა“, - თქვა მან. ”მოკლედ, ტერმინი პროგნოზირებადი პოლიცია გახდა ტოქსიკური და პოლიციის განყოფილებებმა ისწავლეს სახელის გადარქმევა, რასაც აკეთებდნენ მონაცემებით. ადამიანებზე დაფუძნებული პროგნოზირებადი პოლიციას უფრო მკვეთრი დაცემა ჰქონდა. მის შექმნაში ინვესტიცია ჩადებულმა ორმა მთავარმა ქალაქმა - ჩიკაგომ და ლოს-ანჯელესმა - მხარი დაუჭირეს ადამიანებზე დაფუძნებულს სტრატეგიები საზოგადოების მკვეთრი კრიტიკისა და დამანგრეველი შიდა აუდიტის შემდეგ, რაც აჩვენებს, რომ ტაქტიკა არ მოხდა მუშაობა. არა მხოლოდ პროგნოზირებადი სიები იყო ხარვეზები, ისინი ასევე არაეფექტური იყო. ”

არასწორი ინსტრუმენტები სამუშაოსთვის?

თუმცა, რაშიდა რიჩარდსონი, პოლიტიკის კვლევის დირექტორი ა.ი. ახლა ინსტიტუტმა თქვა, რომ ძალიან ბევრი გაუმჭვირვალობაა ამ ტექნოლოგიის გამოყენებასთან დაკავშირებით. „ჩვენ ჯერ კიდევ არ ვიცით იმის გამო, რომ არ არის გამჭვირვალობა მთავრობის მიერ ტექნოლოგიების შეძენასთან დაკავშირებით და ბევრი ხარვეზები შესყიდვის არსებულ პროცედურებში, რამაც შეიძლება დაიცვას გარკვეული ტექნოლოგიური შესყიდვები საჯარო დაკვირვებისგან. მან თქვა. იგი ასახელებს ტექნოლოგიის მაგალითს, რომელიც შეიძლება მიენიჭოს პოლიციის განყოფილებას უფასოდ ან შეძენილი იყოს მესამე მხარის მიერ. „ჩვენ ვიცით ისეთი კვლევებიდან, როგორიც არის ჩემი და მედია, რომ აშშ-ში პოლიციის უდიდესმა განყოფილებებმა გამოიყენეს ტექნოლოგია რაღაც მომენტში, მაგრამ ასევე არის ბევრი მცირე პოლიციის განყოფილება, რომელიც იყენებს მას ან იყენებდა შეზღუდული პერიოდის განმავლობაში დროის.”

თუ გავითვალისწინებთ ამჟამინდელ დაკითხვას პოლიციის როლის შესახებ, იქნება თუ არა ცდუნება ხელახლა ჩართვა პროგნოზირებადი პოლიცია, როგორც მონაცემთა ბაზაზე ორიენტირებული გადაწყვეტილების მიღების ინსტრუმენტი - შესაძლოა ნაკლებად დისტოპიური სამეცნიერო ფანტასტიკის პირობებში ბრენდინგი? არსებობს შესაძლებლობა, რომ ასეთი აღორძინება გაჩნდეს. მაგრამ ვენკატასუბრამანიანი ძალიან სკეპტიკურადაა განწყობილი, რომ მანქანათმცოდნეობა, როგორც ამჟამად პრაქტიკაშია, არის სამუშაოს სწორი ინსტრუმენტი.

”მანქანური სწავლების მთლიანობა და მისი წარმატება თანამედროვე საზოგადოებაში ემყარება იმ წინაპირობას, რომ, მიუხედავად იმისა, თუ რა არის რეალურად პრობლემა, საბოლოო ჯამში, მთავრდება მონაცემების შეგროვება, მოდელის აშენება, შედეგის პროგნოზირება - და თქვენ არ უნდა ინერვიულოთ დომენზე. ” მან თქვა. თქვენ შეგიძლიათ დაწეროთ ერთი და იგივე კოდი და გამოიყენოთ იგი 100 სხვადასხვა ადგილას. ეს არის აბსტრაქციისა და პორტაბელურობის დაპირება. პრობლემა ის არის, რომ როდესაც ჩვენ ვიყენებთ იმას, რასაც ადამიანები უწოდებენ სოციალურ-ტექნიკურ სისტემებს, სადაც ადამიანები და ტექნოლოგია რთულ ტალღებშია შერეული, ამას ვერ გააკეთებთ. თქვენ არ შეგიძლიათ უბრალოდ შეაერთოთ ნაჭერი და მოელით, რომ ის იმუშავებს. იმიტომ, რომ [არსებობს] ტალღოვანი ეფექტები ამ ნაწილის ჩასმა და ის ფაქტი, რომ არსებობს განსხვავებული ასეთ სისტემაში სხვადასხვა დღის წესრიგის მქონე მოთამაშეები და ისინი არღვევენ სისტემას საკუთარ საჭიროებებზე სხვადასხვა გზები. ეფექტურობაზე საუბრისას ყველა ეს ფაქტორი უნდა იყოს გათვალისწინებული. დიახ, აბსტრაქტულად შეიძლება ითქვას, რომ ყველაფერი კარგად იმუშავებს, მაგრამ იქ არის არა აბსტრაქტული. არსებობს მხოლოდ კონტექსტი, რომელშიც მუშაობთ“.