تقرير الأقلية الحرفي: التحيزات الخوارزمية للشرطة التنبؤية

الشرطة التنبؤية كان من المفترض أن يغير الطريقة التي يتم بها تنفيذ أعمال الشرطة، ويدخلنا إلى عالم من القانون الذكي التنفيذ الذي تمت فيه إزالة التحيز وستكون الشرطة قادرة على الاستجابة للبيانات، وليس عليها الحدس. ولكن بعد مرور عقد من الزمان على سماع معظمنا لمصطلح "الشرطة التنبؤية" لأول مرة، يبدو من الواضح أنه لم ينجح. وبسبب ردود الفعل الشعبية العنيفة، تشهد هذه التكنولوجيا انخفاضًا كبيرًا في استخدامها، مقارنة بما كانت عليه قبل بضع سنوات فقط.

في أبريل من هذا العام، قامت مدينة لوس أنجلوس - التي كانت، وفقًا لصحيفة لوس أنجلوس تايمز، "الرائدة في التنبؤ بالجريمة باستخدام البيانات" - بقطع التمويل عن برنامجها الشرطي التنبؤي، وألقت اللوم على التكلفة. وقال رئيس الشرطة ميشيل مور: "هذا قرار صعب". قال لصحيفة لوس أنجلوس تايمز. "إنها استراتيجية استخدمناها، ولكن توقعات التكلفة تبلغ مئات الآلاف من الدولارات لإنفاقها على هذا الحق الآن، مقابل العثور على تلك الأموال وتوجيهها إلى أنشطة أخرى أكثر مركزية، هو ما يجب علي فعله.

ماذا حصل؟ فكيف يمكن لشيء يُعلن عنه على أنه تكنولوجيا "ذكية" أن يؤدي إلى المزيد من ترسيخ التحيز والتمييز؟ وهل حلم الشرطة التنبؤية هو حلم يمكن تعديله باستخدام الخوارزمية الصحيحة، أم أنه طريق مسدود في مجتمع أكثر عدالة يتصارع حاليًا مع كيفية عمل الشرطة؟

الوعد بالشرطة التنبؤية

يعود تاريخ العمل الشرطي التنبؤي في شكله الحالي إلى حوالي عقد من الزمن، وذلك في بحث نشر عام 2009 من قبل عالمة النفس كولين ماكوي ورئيس شرطة لوس أنجلوس تشارلي بيك، بعنوان "الشرطة التنبؤية: ما الذي يمكن أن نتعلمه من وول مارت وأمازون حول مكافحة الجريمة في فترة الركود؟"في هذه الورقة، استغلوا الطريقة التي تم بها استخدام البيانات الضخمة من قبل كبار تجار التجزئة للمساعدة في الكشف عن أنماط سلوك العملاء السابقين التي يمكن استخدامها للتنبؤ بالسلوك المستقبلي. بفضل التقدم في مجال الحوسبة وجمع البيانات، اقترح ماكيو وبيك أنه من الممكن جمع وتحليل بيانات الجريمة في الوقت الحقيقي. ويمكن بعد ذلك استخدام هذه البيانات لتوقع الجرائم التي لم تحدث بعد ومنعها والاستجابة لها بشكل أكثر فعالية.

وفي السنوات التي تلت ذلك، تحول العمل الشرطي التنبؤي من مجرد فكرة عابرة إلى حقيقة واقعة في أجزاء كثيرة من الولايات المتحدة، إلى جانب بقية العالم. وفي هذه العملية، شرعت في تغيير عمل الشرطة من قوة رد الفعل إلى قوة استباقية؛ بالاعتماد على بعض الإنجازات في التكنولوجيا المبنية على البيانات والتي تتيح اكتشاف الأنماط في الوقت الفعلي والتصرف بناءً عليها.

"هناك نوعان رئيسيان من الشرطة التنبؤية" أندرو فيرجسون، أستاذ القانون في جامعة مقاطعة كولومبيا ديفيد أ. كلية كلارك للقانون ومؤلف كتاب صعود شرطة البيانات الضخمة: المراقبة والعرق ومستقبل إنفاذ القانون، قال الاتجاهات الرقمية. "[هذه] الشرطة التنبؤية القائمة على المكان والشرطة التنبؤية القائمة على الأشخاص."

في كلتا الحالتين، تقوم أنظمة الشرطة التنبؤية بتعيين درجة المخاطر للشخص أو المكان المعني، مما يشجع الشرطة على المتابعة في فترة زمنية معينة. أول هذه الأساليب، وهو الشرطة التنبؤية القائمة على المكان، يركز في الغالب على دوريات الشرطة. وهو يتضمن استخدام رسم خرائط الجريمة وتحليلاتها حول الأماكن المحتملة للجرائم المستقبلية، بناءً على الإحصاءات السابقة.

يركز النهج الثاني على التنبؤ باحتمالية أن يشكل الفرد خطرًا محتملاً في المستقبل. على سبيل المثال، في عام 2013، تم إرسال قائد شرطة شيكاغو إلى منزل روبرت مكدانيل البالغ من العمر 22 عامًا، الذي تم تصنيفه على أنه خطر محتمل أو مرتكب أعمال عنف مسلح في وسط مدينة شيكاغو من قبل خوارزمية. بحثت "القائمة الساخنة" التي ساعدت الخوارزمية في تجميعها عن الأنماط التي قد تكون قادرة على التنبؤ بالمجرمين في المستقبل أو الضحايا، حتى لو لم يفعلوا هم أنفسهم أي شيء يبرر هذا التدقيق بخلاف الامتثال لـ أ حساب تعريفي.

كما لاحظت شيكاغو تريبيون: "تدعو الإستراتيجية إلى تحذير الأشخاص المدرجين في القائمة الساخنة بشكل فردي من زيادة النشاط الإجرامي، حتى بالنسبة لأصغر الجرائم، سيؤدي ذلك إلى تطبيق القوة الكاملة للقانون هم."

كان حلم العمل الشرطي التنبؤي هو أنه من خلال العمل على بيانات قابلة للقياس، فإن ذلك من شأنه أن يجعل عمل الشرطة ليس أكثر كفاءة فحسب، بل وأيضا أقل عرضة للتخمين، ونتيجة لذلك، للتحيز. ويزعم المؤيدون أن ذلك سيغير العمل الشرطي نحو الأفضل، ويؤذن بعصر جديد من العمل الشرطي الذكي. ومع ذلك، فمنذ البداية تقريبًا، واجهت الشرطة التنبؤية انتقادات شديدة. وهم يزعمون أنه بدلاً من المساعدة في التخلص من مشاكل مثل العنصرية وغيرها من التحيزات النظامية، فإن الشرطة التنبؤية قد تساعد في الواقع في ترسيخها. ومن الصعب القول أنهم ليس لديهم وجهة نظر.

الخوارزميات التمييزية

إن فكرة أن أنظمة الشرطة التنبؤية القائمة على التعلم الآلي يمكن أن تتعلم التمييز بناءً على عوامل مثل العرق ليست جديدة. يتم تدريب أدوات التعلم الآلي باستخدام كميات هائلة من البيانات. وما دام يتم جمع هذه البيانات من قبل نظام حيث لا يزال العرق يشكل عاملا طاغيا، فإن ذلك يمكن أن يؤدي إلى التمييز.

كما ريناتا م. كتب أودونيل في ورقة بحثية عام 2019 بعنوان “تحدي خوارزميات الشرطة التنبؤية العنصرية بموجب بند الحماية المتساوية"، تتعلم خوارزميات التعلم الآلي من البيانات المستمدة من نظام قضائي حيث" يُسجن الأمريكيون السود في سجون الولاية بمعدل وهذا يعادل 5.1 أضعاف سجن البيض، ويمكن لواحد من كل ثلاثة رجال سود ولدوا اليوم أن يتوقع الذهاب إلى السجن خلال حياته إذا كانت الاتجاهات الحالية يكمل."

وقال فيرجسون لـ Digital Trends: "البيانات ليست موضوعية". "لقد تحولنا إلى رمز ثنائي فقط. إن الأنظمة التي تعتمد على البيانات والتي تعمل في العالم الحقيقي ليست أكثر موضوعية أو عادلة أو غير متحيزة من العالم الحقيقي. إذا كان عالمك الحقيقي غير متكافئ من الناحية الهيكلية أو تمييزيا عنصريا، فإن النظام القائم على البيانات سوف يعكس تلك التفاوتات المجتمعية. المدخلات التي تدخل ملوثة بالتحيز. التحليل ملوث بالتحيز. وآليات سلطة الشرطة لا تتغير لمجرد وجود تكنولوجيا توجه الأنظمة”.

يعطي فيرجسون مثالاً على الاعتقالات كعامل موضوعي ظاهريًا في التنبؤ بالمخاطر. ومع ذلك، ستختلف الاعتقالات بسبب تخصيص موارد الشرطة (مثل الأماكن التي تقوم فيها الدوريات) وأنواع الجرائم التي تتطلب عادةً الاعتقالات. وهذا مجرد مثال واحد للبيانات التي قد تكون مثيرة للمشاكل.

مخاطر البيانات القذرة

يُشار أحيانًا إلى البيانات المفقودة وغير الصحيحة في عملية التنقيب عن البيانات باسم "البيانات القذرة". أ ورقة بحثية لعام 2019 أعدها باحثون من منظمة A.I. الآن المعهد في جامعة نيويورك يوسع هذا المصطلح ليشير أيضًا إلى البيانات المتأثرة بالفساد والتحيز وغير القانوني الممارسات - سواء كان ذلك من خلال التلاعب بها عمدا والتي تم تشويهها من قبل الأفراد و التحيزات المجتمعية. يمكن أن تشمل، على سبيل المثال، البيانات الناتجة عن اعتقال شخص بريء تم زرع أدلة عليه أو تم اتهامه زورا.

هناك مفارقة معينة في حقيقة أنه على مدى العقود الماضية متطلبات مجتمع البيانات، الذي كل شيء يدور حول القياس الكمي والأهداف العددية الحديد الزهر، وقد أدى للتو إلى مجموعة كبيرة من... حسنًا، حقًا بيانات سيئة. سلسلة اتش بي او السلك عرض ظاهرة العالم الحقيقي المتمثلة في "التلاعب بالإحصائيات" ، وقد قدمت السنوات التي تلت توقف العرض عن الهواء الكثير من أمثلة على التلاعب المنهجي الفعلي بالبيانات، وتقارير الشرطة المزيفة، والممارسات غير الدستورية التي أرسلت الأبرياء إلى سجن.

إن البيانات السيئة التي تسمح للأشخاص الذين هم في السلطة بضرب الأهداف بشكل مصطنع هي شيء واحد. لكن بدمج ذلك مع الخوارزميات والنماذج التنبؤية التي تستخدم هذا كأساس لنمذجة العالم، فمن المحتمل أن تحصل على شيء أسوأ بكثير.

لقد أظهر الباحثون كيف يمكن لبيانات الجريمة المشكوك فيها والمتصلة بخوارزميات الشرطة التنبؤية أن تخلق ما يشار إليه باسم "حلقات ردود الفعل الهاربة"، حيث يتم إرسال الشرطة بشكل متكرر إلى نفس الأحياء بغض النظر عن معدل الجريمة الحقيقي. أحد المؤلفين المشاركين في تلك الورقة، عالم الكمبيوتر سوريش فينكاتاسوبرامانيانيقول إن نماذج التعلم الآلي يمكن أن تبني افتراضات خاطئة من خلال نمذجتها. وكما هو الحال مع المثل القديم الذي يقول إن كل مشكلة تبدو مثل مسمار بالنسبة للشخص الذي يحمل مطرقة، فإن هذه الأنظمة تمثل عناصر معينة فقط للمشكلة - وتتخيل نتيجة واحدة محتملة فقط.

"[الشيء الذي] لا يتم تناوله في هذه النماذج هو إلى أي مدى تقوم بنمذجة حقيقة أن رمي المزيد من رجال الشرطة في منطقة ما يمكن أن يؤدي في الواقع إلى خفض نوعية الحياة للأشخاص الذين يعيشون هناك؟ وقال فينكاتاسوبرامانيان، الأستاذ في كلية الحوسبة بجامعة يوتا، لموقع Digital اتجاهات. "نحن نفترض أن المزيد من رجال الشرطة هو شيء أفضل. ولكن كما نرى الآن، فإن وجود المزيد من الشرطة ليس بالأمر الجيد بالضرورة. يمكن أن يجعل الأمور أسوأ في الواقع. في أي نموذج رأيته من قبل، لم يتساءل أي شخص عن تكلفة نشر المزيد من الشرطة في منطقة ما”.

المستقبل الغامض للشرطة التنبؤية

أحيانًا يستخدم أولئك الذين يعملون في مجال الشرطة التنبؤية مصطلح "تقرير الأقلية" للإشارة إلى نوع التنبؤ الذي يقومون به. يتم استدعاء هذا المصطلح بشكل متكرر كمرجع إلى فيلم 2002 يحمل نفس الاسم، والتي كانت بدورها مبنية بشكل فضفاض على قصة قصيرة كتبها فيليب ك. قضيب. في تقرير الأقلية، يقوم قسم شرطة ما قبل الجريمة الخاص بإلقاء القبض على المجرمين بناءً على المعرفة المسبقة بالجرائم التي سيتم ارتكابها في المستقبل. يتم توفير هذه التوقعات من قبل ثلاثة وسطاء يطلق عليهم "المتصورون المسبقون".

ولكن تطور في تقرير الأقلية هو أن التوقعات ليست دقيقة دائما. توفر الرؤى المخالفة لأحد المتصورين وجهة نظر بديلة للمستقبل، والتي يتم قمعها خوفًا من جعل النظام يبدو غير جدير بالثقة.

في الوقت الحالي، تواجه الشرطة التنبؤية مستقبلها الغامض. إلى جانب التقنيات الجديدة مثل التعرف على الوجه، فإن التكنولوجيا المتاحة لإنفاذ القانون للاستخدام المحتمل لم تكن أكثر قوة من أي وقت مضى. وفي الوقت نفسه، تسبب الوعي باستخدام الشرطة التنبؤية في ردة فعل شعبية ربما ساعدت في قمعها. قال فيرغسون لـ Digital Trends إن استخدام أدوات الشرطة التنبؤية كان في "تراجع" خلال السنوات القليلة الماضية.

"في ذروتها، كانت [الشرطة التنبؤية القائمة على المكان] موجودة في أكثر من 60 مدينة رئيسية وتنمو، ولكن نتيجة التنظيم المجتمعي الناجح، تم تقليصه إلى حد كبير أو استبداله بأشكال أخرى تعتمد على البيانات التحليلات"، على حد تعبيره. "باختصار، أصبح مصطلح الشرطة التنبؤية سامًا، وتعلمت أقسام الشرطة إعادة تسمية ما كانت تفعله بالبيانات. وشهدت الشرطة التنبؤية القائمة على الأشخاص انخفاضًا حادًا. تراجعت المدينتان الرئيسيتان اللتان استثمرتا في إنشائها - شيكاغو ولوس أنجلوس - عن الاعتماد على الأشخاص الاستراتيجيات بعد الانتقادات الحادة من المجتمع وعمليات التدقيق الداخلي المدمرة التي أظهرت أن التكتيكات لم تكن كذلك عمل. لم تكن القوائم التنبؤية معيبة فحسب، بل كانت أيضًا غير فعالة.

الأدوات الخاطئة لهذا المنصب؟

لكن، رشيدة ريتشاردسون، مدير أبحاث السياسات في A.I. وقال معهد الآن أن هناك الكثير من الغموض حول استخدام هذه التكنولوجيا. "ما زلنا لا نعرف بسبب الافتقار إلى الشفافية فيما يتعلق باستحواذ الحكومة على التكنولوجيا وغيرها الكثير "الثغرات الموجودة في إجراءات الشراء الحالية قد تحمي بعض مشتريات التكنولوجيا من التدقيق العام". قالت. وتضرب مثالاً على التكنولوجيا التي يمكن تقديمها لقسم الشرطة مجانًا أو شراؤها من قبل طرف ثالث. "نحن نعلم من الأبحاث مثل أبحاثي وتقارير وسائل الإعلام أن العديد من أكبر أقسام الشرطة في الولايات المتحدة قد استخدمت التكنولوجيا في مرحلة ما، ولكن هناك أيضًا العديد من أقسام الشرطة الصغيرة التي تستخدمها، أو استخدمتها لفترات محدودة من الوقت."

ونظراً للتساؤلات الحالية حول دور الشرطة، فهل سيكون هناك إغراء لإعادة تبني هذا الدور؟ الشرطة التنبؤية كأداة لاتخاذ القرارات المستندة إلى البيانات - ربما في ظل خيال علمي أقل بؤسًا العلامات التجارية؟ هناك احتمال أن يظهر مثل هذا الانبعاث. لكن فينكاتاسوبرامانيان يشكك بشدة في أن التعلم الآلي، كما يُمارس حاليًا، هو الأداة المناسبة لهذه المهمة.

"يعتمد التعلم الآلي بأكمله ونجاحه في المجتمع الحديث على فرضية مفادها أنه بغض النظر عن الواقع المشكلة، فإن الأمر يتلخص في نهاية المطاف في جمع البيانات، وبناء النموذج، والتنبؤ بالنتائج - ولا داعي للقلق بشأن المجال. هو قال. "يمكنك كتابة نفس الكود وتطبيقه في 100 مكان مختلف. هذا هو الوعد بالتجريد وقابلية النقل. المشكلة هي أننا عندما نستخدم ما يسميه الناس الأنظمة الاجتماعية التقنية، حيث يتداخل البشر والتكنولوجيا في موجات معقدة، لا يمكنك القيام بذلك. لا يمكنك فقط توصيل قطعة وتوقع أن تعمل. لأن [هناك] تأثيرات مضاعفة مع وضع تلك القطعة وحقيقة أن هناك اختلافًا لاعبين ذوي أجندات مختلفة في مثل هذا النظام، ويقومون بتخريب النظام لتلبية احتياجاتهم الخاصة طرق مختلفة. كل هذه الأشياء يجب أن تؤخذ في الاعتبار عندما تتحدث عن الفعالية. نعم، يمكنك أن تقول بشكل مجرد أن كل شيء سوف يعمل بشكل جيد، ولكن هناك يكون لا مجردة. لا يوجد سوى السياق الذي تعمل فيه."