एक शाब्दिक अल्पसंख्यक रिपोर्ट: पूर्वानुमानित पुलिसिंग की एल्गोरिथम पूर्वाग्रह

पूर्वानुमानित पुलिसिंग इसका उद्देश्य पुलिसिंग के तरीके को बदलना था और हमें स्मार्ट कानून की दुनिया में लाना था प्रवर्तन जिसमें पूर्वाग्रह को हटा दिया गया और पुलिस डेटा पर प्रतिक्रिया देने में सक्षम होगी, नहीं कूबड़. लेकिन एक दशक बाद जब हममें से अधिकांश ने पहली बार "भविष्य कहनेवाला पुलिसिंग" शब्द सुना है, तो यह स्पष्ट लगता है कि यह काम नहीं कर रहा है। सार्वजनिक प्रतिक्रिया के कारण, कुछ साल पहले की तुलना में प्रौद्योगिकी के उपयोग में उल्लेखनीय गिरावट आ रही है।

इस साल अप्रैल में, लॉस एंजिल्स - जो एलए टाइम्स के अनुसार, "डेटा के साथ अपराध की भविष्यवाणी करने में अग्रणी" था - ने लागत को दोष देते हुए अपने पूर्वानुमानित पुलिसिंग कार्यक्रम के लिए फंडिंग में कटौती की। पुलिस प्रमुख मिशेल मूर ने कहा, "यह एक कठिन निर्णय है।" एलए टाइम्स को बताया. “यह एक रणनीति है जिसका हमने उपयोग किया है, लेकिन उस अधिकार पर खर्च करने के लिए सैकड़ों हजारों डॉलर की लागत का अनुमान है अब मुझे उस पैसे को ढूंढना और उस पैसे को अन्य केंद्रीय गतिविधियों में लगाना है।"

क्या गलत हो गया? "स्मार्ट" तकनीक के रूप में विज्ञापित कोई चीज़ कैसे पूर्वाग्रहों और भेदभाव को और अधिक बढ़ावा दे सकती है? और क्या भविष्य कहनेवाला पुलिसिंग का सपना सही एल्गोरिथ्म के साथ बदला जा सकता है - या एक निष्पक्ष समाज में एक गतिरोध है जो वर्तमान में इस बात से जूझ रहा है कि पुलिस को कैसे काम करना चाहिए?

पूर्वानुमानित पुलिसिंग का वादा

अपने वर्तमान स्वरूप में भविष्य कहनेवाला पुलिसिंग लगभग एक दशक पहले मनोवैज्ञानिक कोलीन मैक्यू और लॉस एंजिल्स के पुलिस प्रमुख चार्ली बेक के 2009 के पेपर से शुरू हुई थी, जिसका शीर्षक था "पूर्वानुमानित पुलिसिंग: मंदी के दौर में अपराध से लड़ने के बारे में हम वॉलमार्ट और अमेज़न से क्या सीख सकते हैं?पेपर में, उन्होंने इस बात पर ध्यान दिया कि प्रमुख खुदरा विक्रेताओं द्वारा पिछले ग्राहक व्यवहार में पैटर्न को उजागर करने में मदद के लिए बड़े डेटा का उपयोग किया जा रहा था जिसका उपयोग भविष्य के व्यवहार की भविष्यवाणी करने के लिए किया जा सकता था। कंप्यूटिंग और डेटा-संग्रह दोनों में प्रगति के लिए धन्यवाद, मैक्यू और बेक ने सुझाव दिया कि वास्तविक समय में अपराध डेटा एकत्र करना और उसका विश्लेषण करना संभव है। इस डेटा का उपयोग उन अपराधों का अनुमान लगाने, रोकने और अधिक प्रभावी ढंग से प्रतिक्रिया करने के लिए किया जा सकता है जो अभी तक हुए ही नहीं थे।

उसके बाद के वर्षों में, दुनिया के बाकी हिस्सों के साथ-साथ संयुक्त राज्य अमेरिका के कई हिस्सों में भविष्य कहनेवाला पुलिसिंग एक घिसे-पिटे विचार से वास्तविकता में बदल गई है। इस प्रक्रिया में, इसने पुलिसिंग को एक प्रतिक्रियाशील बल से एक सक्रिय बल में बदलने की योजना बनाई है; डेटा-संचालित प्रौद्योगिकी में कुछ सफलताओं का चित्रण, जो वास्तविक समय में पैटर्न को पहचानना और उन पर कार्य करना संभव बनाता है।

"भविष्यवाणी पुलिसिंग के दो मुख्य रूप हैं," एंड्रयू फर्ग्यूसनकोलंबिया जिले के विश्वविद्यालय में कानून के प्रोफेसर डेविड ए. क्लार्क स्कूल ऑफ लॉ और लेखक बिग डेटा पुलिसिंग का उदय: निगरानी, ​​नस्ल और कानून प्रवर्तन का भविष्य, डिजिटल ट्रेंड्स को बताया। "[ये हैं] स्थान-आधारित भविष्य कहनेवाला पुलिसिंग और व्यक्ति आधारित-भविष्य कहनेवाला पुलिसिंग।"

दोनों ही मामलों में, पूर्वानुमानित पुलिसिंग प्रणालियाँ संबंधित व्यक्ति या स्थान को एक जोखिम स्कोर प्रदान करती हैं, जो पुलिस को एक निश्चित अंतराल पर अनुवर्ती कार्रवाई करने के लिए प्रोत्साहित करती है। इनमें से पहला दृष्टिकोण, स्थान-आधारित पूर्वानुमानित पुलिसिंग, मुख्य रूप से पुलिस गश्त पर केंद्रित है। इसमें पिछले आंकड़ों के आधार पर भविष्य के अपराधों के संभावित स्थानों के बारे में अपराध मानचित्रण और विश्लेषण का उपयोग शामिल है।

दूसरा दृष्टिकोण इस संभावना की भविष्यवाणी करने पर केंद्रित है कि कोई व्यक्ति संभावित भविष्य में जोखिम उठा सकता है। उदाहरण के लिए, 2013 में, शिकागो पुलिस के एक कमांडर को 22 वर्षीय रॉबर्ट मैकडैनियल के घर भेजा गया था, जिसे आंतरिक शहर शिकागो में बंदूक हिंसा के संभावित जोखिम या अपराधी के रूप में चिह्नित किया गया था कलन विधि। "हीट लिस्ट" एल्गोरिदम ने उन पैटर्न की तलाश में मदद की जो भविष्य के अपराधियों की भविष्यवाणी करने में सक्षम हो सकते हैं या पीड़ित, भले ही उन्होंने स्वयं इस जांच के अनुरूप कुछ भी नहीं किया हो प्रोफ़ाइल।

के रूप में शिकागो ट्रिब्यून ने नोट किया: "रणनीति में व्यक्तिगत रूप से हीट सूची में शामिल लोगों को चेतावनी देने का आह्वान किया गया है कि आगे आपराधिक गतिविधि, यहां तक ​​कि सबसे छोटे अपराधों के लिए भी, कानून की पूरी ताकत लागू कर दी जाएगी उन्हें।"

पूर्वानुमानित पुलिसिंग का सपना यह था कि, मात्रात्मक डेटा पर कार्य करके, यह न केवल पुलिसिंग को अधिक कुशल बनाएगा, बल्कि अनुमान लगाने और परिणामस्वरूप, पूर्वाग्रह की संभावना भी कम होगी। समर्थकों ने दावा किया कि इससे पुलिस व्यवस्था में बेहतरी आएगी और स्मार्ट पुलिसिंग के एक नए युग की शुरुआत होगी। हालाँकि, लगभग शुरू से ही, पूर्वानुमानित पुलिसिंग के कट्टर आलोचक रहे हैं। उनका तर्क है कि, नस्लवाद और अन्य प्रणालीगत पूर्वाग्रहों जैसी समस्याओं से छुटकारा पाने में मदद करने के बजाय, पूर्वानुमानित पुलिसिंग वास्तव में उन्हें उलझाने में मदद कर सकती है। और यह तर्क करना कठिन है कि उनके पास कोई मुद्दा नहीं है।

भेदभावपूर्ण एल्गोरिदम

यह विचार कि मशीन लर्निंग-आधारित भविष्य कहनेवाला पुलिसिंग सिस्टम नस्ल जैसे कारकों के आधार पर भेदभाव करना सीख सकता है, कोई नई बात नहीं है। मशीन-लर्निंग टूल को भारी मात्रा में डेटा के साथ प्रशिक्षित किया जाता है। और, जब तक वह डेटा एक ऐसी प्रणाली द्वारा एकत्र किया जाता है जिसमें नस्ल एक जबरदस्त कारक बनी हुई है, तो इससे भेदभाव हो सकता है।

जैसा कि रेनाटा एम. ओ'डॉनेल 2019 के पेपर में लिखते हैं, जिसका शीर्षक है "समान सुरक्षा खंड के तहत नस्लवादी पूर्वानुमानित पुलिसिंग एल्गोरिदम को चुनौती देनामशीन लर्निंग एल्गोरिदम एक न्याय प्रणाली से प्राप्त डेटा से सीख रहे हैं जिसमें "काले अमेरिकियों को राज्य की जेलों में दर पर कैद किया जाता है।" यह श्वेतों की कारावास की सजा का 5.1 गुना है, और यदि वर्तमान रुझान देखें तो आज जन्मे प्रत्येक तीन अश्वेत व्यक्तियों में से एक अपने जीवनकाल में जेल जाने की उम्मीद कर सकता है। जारी रखना।"

फर्ग्यूसन ने डिजिटल ट्रेंड्स को बताया, "डेटा वस्तुनिष्ठ नहीं है।" “यह सिर्फ हमें बाइनरी कोड तक सीमित कर दिया गया है। वास्तविक दुनिया में काम करने वाली डेटा-संचालित प्रणालियाँ वास्तविक दुनिया की तुलना में अधिक उद्देश्यपूर्ण, निष्पक्ष या निष्पक्ष नहीं हैं। यदि आपकी वास्तविक दुनिया संरचनात्मक रूप से असमान या नस्लीय रूप से भेदभावपूर्ण है, तो डेटा-संचालित प्रणाली उन सामाजिक असमानताओं को प्रतिबिंबित करेगी। जो इनपुट आ रहे हैं वे पूर्वाग्रह से ग्रसित हैं। विश्लेषण पूर्वाग्रह से ग्रसित है. और पुलिस प्राधिकरण के तंत्र सिर्फ इसलिए नहीं बदलते क्योंकि सिस्टम को मार्गदर्शन करने वाली तकनीक है।

फर्ग्यूसन जोखिम की भविष्यवाणी करने में एक वस्तुनिष्ठ कारक के रूप में गिरफ्तारी का उदाहरण देता है। हालाँकि, गिरफ़्तारियाँ पुलिस संसाधनों के आवंटन (जैसे कि वे कहाँ गश्त करते हैं) और अपराध के प्रकार के आधार पर की जाएंगी जिनमें आम तौर पर गिरफ़्तारी की आवश्यकता होती है। यह संभावित समस्याग्रस्त डेटा का सिर्फ एक उदाहरण है।

गंदे डेटा के ख़तरे

डेटा माइनिंग में गुम और ग़लत डेटा को कभी-कभी "गंदा डेटा" कहा जाता है। ए ए.आई. के शोधकर्ताओं द्वारा 2019 का पेपर। अब न्यूयॉर्क विश्वविद्यालय में संस्थान इस शब्द का विस्तार उस डेटा को भी संदर्भित करने के लिए किया जाता है जो भ्रष्ट, पक्षपाती और गैरकानूनी से प्रभावित होता है प्रथाएँ - चाहे वह जानबूझकर हेरफेर की गई हो जो व्यक्तिगत रूप से विकृत हो सामाजिक पूर्वाग्रह. उदाहरण के लिए, इसमें वह डेटा शामिल हो सकता है जो किसी निर्दोष व्यक्ति की गिरफ्तारी से उत्पन्न हुआ हो, जिसके पास सबूत लगाए गए हों या जिस पर अन्यथा झूठा आरोप लगाया गया हो।

इस तथ्य में एक निश्चित विडंबना है कि, पिछले दशकों में, डेटा समाज की मांगें सब कुछ परिमाणीकरण और कच्चे लोहे के संख्यात्मक लक्ष्यों के बारे में है, इससे बहुत कुछ हो गया है... ठीक है, वास्तव में ख़राब डेटा. एचबीओ श्रृंखला तार "आँकड़ों का मज़ाक उड़ाने" की वास्तविक दुनिया की घटना को प्रदर्शित किया गया है और जब से यह शो बंद हुआ है, तब से बहुत कुछ देखने को मिला है वास्तविक प्रणालीगत डेटा हेरफेर, फर्जी पुलिस रिपोर्ट और असंवैधानिक प्रथाओं के उदाहरण जिन्होंने निर्दोष लोगों को भेजा है जेल।

ख़राब डेटा जो सत्ता में बैठे लोगों को कृत्रिम रूप से लक्ष्य पर हमला करने की अनुमति देता है, एक बात है। लेकिन इसे एल्गोरिदम और भविष्य कहनेवाला मॉडल के साथ जोड़ दें जो इसे दुनिया के मॉडलिंग के लिए अपने आधार के रूप में उपयोग करते हैं और आपको संभावित रूप से बहुत अधिक बदतर स्थिति मिलेगी।

शोधकर्ताओं ने प्रदर्शित किया है कि भविष्य कहनेवाला पुलिसिंग एल्गोरिदम में प्लग किए गए संदिग्ध अपराध डेटा को "" के रूप में संदर्भित किया जा सकता है।भगोड़ा फीडबैक लूप, जिसमें वास्तविक अपराध दर की परवाह किए बिना पुलिस को बार-बार एक ही पड़ोस में भेजा जाता है। उस पेपर के सह-लेखकों में से एक, कंप्यूटर वैज्ञानिक सुरेश वेंकटसुब्रमण्यम, का कहना है कि मशीन लर्निंग मॉडल अपने मॉडलिंग के माध्यम से दोषपूर्ण धारणाएं बना सकते हैं। पुरानी कहावत की तरह, जिस व्यक्ति के पास हथौड़ा है, उसके लिए हर समस्या एक कील की तरह दिखती है, ये सिस्टम किसी समस्या के केवल कुछ तत्वों को मॉडल करते हैं - और केवल एक संभावित परिणाम की कल्पना करते हैं।

"[कुछ ऐसा] जो इन मॉडलों में संबोधित नहीं किया जाता है, वह यह है कि आप इस तथ्य को किस हद तक मॉडलिंग कर रहे हैं कि किसी क्षेत्र में अधिक पुलिस भेजने से वास्तव में नुकसान हो सकता है वहां रहने वाले लोगों के जीवन की गुणवत्ता कम हो गई है?'' यूटा विश्वविद्यालय में कंप्यूटिंग स्कूल के प्रोफेसर वेंकटसुब्रमण्यन ने डिजिटल को बताया रुझान. “हम मानते हैं कि अधिक पुलिस एक बेहतर बात है। लेकिन जैसा कि हम अभी देख रहे हैं, अधिक पुलिस होना आवश्यक रूप से अच्छी बात नहीं है। यह वास्तव में चीज़ों को बदतर बना सकता है। मैंने जो एक भी मॉडल देखा है, उसमें किसी ने कभी नहीं पूछा कि किसी क्षेत्र में अधिक पुलिस लगाने की लागत क्या है।"

पूर्वानुमानित पुलिसिंग का अनिश्चित भविष्य

पूर्वानुमानित पुलिसिंग में काम करने वाले लोग कभी-कभी अनजाने में "अल्पसंख्यक रिपोर्ट" शब्द का उपयोग उस प्रकार की भविष्यवाणी के लिए करते हैं जो वे कर रहे हैं। इस शब्द का प्रयोग बार-बार संदर्भ के रूप में किया जाता है 2002 में इसी नाम की फ़िल्म, जो कि फिलिप के की 1956 की लघु कहानी पर आधारित थी। लिंग। में अल्पसंख्यक दस्तावेज़, एक विशेष प्री-क्राइम पुलिस विभाग भविष्य में होने वाले अपराधों की पूर्व जानकारी के आधार पर अपराधियों को पकड़ता है। ये पूर्वानुमान तीन मनोविज्ञानियों द्वारा प्रदान किए जाते हैं जिन्हें "प्रीकॉग" कहा जाता है।

लेकिन इसमें ट्विस्ट है अल्पसंख्यक दस्तावेज़ यह है कि भविष्यवाणियाँ हमेशा सटीक नहीं होती हैं। किसी एक पूर्ववर्ती द्वारा असहमतिपूर्ण दृष्टि भविष्य का एक वैकल्पिक दृष्टिकोण प्रदान करती है, जिसे सिस्टम को अविश्वसनीय दिखने के डर से दबा दिया जाता है।

फिलहाल, भविष्य कहनेवाला पुलिसिंग अपने अनिश्चित भविष्य का सामना कर रही है। चेहरे की पहचान जैसी नई तकनीकों के साथ-साथ, संभावित उपयोग के लिए कानून प्रवर्तन के लिए उपलब्ध तकनीक कभी भी अधिक शक्तिशाली नहीं रही है। साथ ही, भविष्य कहनेवाला पुलिसिंग के उपयोग के बारे में जागरूकता के कारण सार्वजनिक प्रतिक्रिया हुई है जिसने वास्तव में इसे खत्म करने में मदद की है। फर्ग्यूसन ने डिजिटल ट्रेंड्स को बताया कि पिछले कुछ वर्षों से पूर्वानुमानित पुलिसिंग टूल का उपयोग "डाउनस्विंग" पर है।

"अपने चरम पर, [स्थान-आधारित भविष्य कहनेवाला पुलिसिंग] 60 से अधिक प्रमुख शहरों में थी और बढ़ रही थी, लेकिन इसके परिणामस्वरूप सफल सामुदायिक आयोजन के बाद, इसे बड़े पैमाने पर कम कर दिया गया है या डेटा-संचालित के अन्य रूपों द्वारा प्रतिस्थापित कर दिया गया है एनालिटिक्स, ”उन्होंने कहा। “संक्षेप में, पूर्वानुमानित पुलिसिंग शब्द विषाक्त हो गया, और पुलिस विभाग डेटा के साथ जो कर रहे थे उसका नाम बदलना सीख गए। व्यक्ति-आधारित पूर्वानुमानित पुलिसिंग में भारी गिरावट आई। इसके निर्माण में निवेश करने वाले दो मुख्य शहरों - शिकागो और लॉस एंजिल्स - ने अपने व्यक्ति-आधारित का समर्थन किया तीखी सामुदायिक आलोचना और विनाशकारी आंतरिक ऑडिट के बाद की रणनीतियाँ जो दिखाती हैं कि रणनीतियाँ सही नहीं थीं काम। न केवल पूर्वानुमानित सूचियाँ त्रुटिपूर्ण थीं, बल्कि वे अप्रभावी भी थीं।”

कार्य के लिए गलत उपकरण?

तथापि, रशीदा रिचर्डसन, ए.आई. में नीति अनुसंधान निदेशक। अब इंस्टीट्यूट ने कहा कि इस तकनीक के इस्तेमाल को लेकर बहुत ज्यादा अस्पष्टता है. “प्रौद्योगिकी और कई अन्य चीजों के सरकारी अधिग्रहण के संबंध में पारदर्शिता की कमी के कारण हम अभी भी नहीं जानते हैं मौजूदा खरीद प्रक्रियाओं में खामियां जो कुछ प्रौद्योगिकी खरीद को सार्वजनिक जांच से बचा सकती हैं,'' उसने कहा। वह उस तकनीक का उदाहरण देती है जो पुलिस विभाग को मुफ्त में दी जा सकती है या किसी तीसरे पक्ष द्वारा खरीदी जा सकती है। "हम अपने शोध और मीडिया रिपोर्टिंग से जानते हैं कि अमेरिका के कई सबसे बड़े पुलिस विभागों ने इसका उपयोग किया है कुछ बिंदु पर प्रौद्योगिकी, लेकिन कई छोटे पुलिस विभाग भी हैं जो इसका उपयोग कर रहे हैं, या सीमित अवधि के लिए इसका उपयोग किया है समय की।"

पुलिस की भूमिका के बारे में मौजूदा सवालों को देखते हुए, क्या फिर से गले लगाने का प्रलोभन होगा डेटा-संचालित निर्णय लेने के लिए एक उपकरण के रूप में भविष्य कहनेवाला पुलिसिंग - शायद कम डायस्टोपियन विज्ञान-कल्पना के तहत ब्रांडिंग? ऐसी संभावना है कि ऐसा पुनरुत्थान उभर सकता है। लेकिन वेंकटसुब्रमण्यम इस बात पर अत्यधिक संशय में हैं कि मशीन लर्निंग, जैसा कि वर्तमान में प्रचलित है, इस काम के लिए सही उपकरण है।

“मशीन लर्निंग की संपूर्णता और आधुनिक समाज में इसकी सफलता इस आधार पर आधारित है कि, चाहे वास्तविक कुछ भी हो समस्या, यह अंततः डेटा एकत्र करने, एक मॉडल बनाने, परिणाम की भविष्यवाणी करने के लिए उबलती है - और आपको डोमेन के बारे में चिंता करने की ज़रूरत नहीं है," उसने कहा। “आप एक ही कोड लिख सकते हैं और इसे 100 अलग-अलग जगहों पर लागू कर सकते हैं। यह अमूर्तता और सुवाह्यता का वादा है। समस्या यह है कि जब हम उसका उपयोग करते हैं जिसे लोग सामाजिक-तकनीकी प्रणाली कहते हैं, जहां आपके पास मानव और प्रौद्योगिकी जटिल तरंगों में जुड़े हुए हैं, तो आप ऐसा नहीं कर सकते। आप बस एक टुकड़ा प्लग इन करके यह उम्मीद नहीं कर सकते कि यह काम करेगा। क्योंकि उस टुकड़े को डालने से [वहाँ] तरंग प्रभाव होते हैं और तथ्य यह है कि वे अलग-अलग होते हैं ऐसी प्रणाली में अलग-अलग एजेंडे वाले खिलाड़ी होते हैं, और वे अपनी जरूरतों के लिए इस प्रणाली को नष्ट कर देते हैं विभिन्न तरीके। जब आप प्रभावशीलता के बारे में बात कर रहे हों तो इन सभी चीजों को ध्यान में रखना होगा। हाँ, आप संक्षेप में कह सकते हैं कि सब कुछ ठीक चलेगा, लेकिन वहाँ है कोई सार नहीं. केवल वही संदर्भ है जिसमें आप काम कर रहे हैं।"