لا يستطيع البشر إيقاف خطاب الكراهية عبر الإنترنت بمفردهم نحن بحاجة إلى الروبوتات للمساعدة

يعاني الإنترنت من مشكلة خطاب الكراهية.

انتقل إلى أي قسم للتعليقات على YouTube أو تصفح وسائل التواصل الاجتماعي حتى لفترة قصيرة من الوقت ولن تجد نقصًا في التعليقات المسيئة والمتحيزة بشكل متكرر. ولكن كيف يمكنك حل هذه المشكلة؟ ومن خلال القيام بذلك، كيف يمكنك تجنب جعل الأمر أسوأ عن طريق الخطأ؟

هذا الشهر، قام اثنان من الباحثين عن خطاب الكراهية بالذكاء الاصطناعي. تم الإعلان عن الخوارزميات: تم إنشاء واحدة في المملكة المتحدة، والأخرى في الولايات المتحدة. ويمكن استخدام كليهما في يوم من الأيام لمسح وسائل التواصل الاجتماعي أو غيرها من مناطق عالم الإنترنت، وتسليط الضوء على خطاب الكراهية أو الخطاب المسيء بحيث يمكن الإبلاغ عنه أو حذفه أو حظره.

الأول، تم تطويره من قبل باحثين من جامعة إكستر بالمملكة المتحدة، وهو أداة اسمها لولا التي تسخر "أحدث التطورات في معالجة اللغة الطبيعية والنظرية السلوكية" لمسح آلاف الرسائل في الدقيقة للكشف عن المحتوى الذي يحض على الكراهية. "مستوى الدقة رائع مقارنة بالحلول الموجودة في السوق"

دكتور ديفيد لوبيز، أحد المبدعين في Lola، قال لـ Digital Trends.

والثاني: العمل الباحثون في جامعة جنوب كاليفورنيا، يدعي أنه قادر على شيء مماثل. "إن الخوارزمية التي طورناها عبارة عن مصنف نصي، يأخذ منشورات وسائل التواصل الاجتماعي - أو ربما نصًا آخر - ويتنبأ بما إذا كان النص يحتوي على خطاب يحض على الكراهية أم لا". بريندان كينيدي، دكتوراه في علوم الكمبيوتر. قال الطالب الذي عمل في المشروع لـ Digital Trends.

هذه وظيفة للأتمتة. نوع من

لتقدير سبب ضرورة اللجوء إلى الحلول الآلية لحل هذه المشاكل الإنسانية، من المهم أن نفهم الحجم الهائل لوسائل التواصل الاجتماعي. في كل ثانية من اليوم، يتم إرسال ما معدله 6000 تغريدة. وهذا يعادل 350 ألف تغريدة في الدقيقة، أو 500 مليون تغريدة يوميًا، أو 200 مليار تغريدة سنويًا. على فيسبوك، يقوم ما يقرب من 35 مليون شخص بتحديث حالاتهم بشكل يومي.

حتى بالنسبة لعمالقة التكنولوجيا الذين يتمتعون بعدد كبير من الموظفين، فإن هذه الأرقام تجعل من غير الممكن للمشرفين البشريين القيام بالاعتدال اللازم بمفردهم. يجب اتخاذ مثل هذه القرارات بسرعة كبيرة، ليس فقط للبقاء على اطلاع بالمحتوى الجديد الذي يتم إنشاؤه في كل لحظة، ولكن أيضًا حتى لا يرى عدد كبير من المستخدمين رسائل معينة. الخوارزميات المصممة جيدًا هي الطريقة العملية الوحيدة لحل هذه المشكلة.

وباستخدام التعلم الآلي، من الممكن - على الأقل من الناحية النظرية - تطوير أدوات يمكن تدريبها للبحث عن خطاب الكراهية أو الخطاب المسيء بحيث يمكن حذفه أو الإبلاغ عنه. لكن هذا ليس بالأمر السهل. خطاب الكراهية هو مصطلح واسع ومتنازع عليه. وقد ثبت أن محاولات تعريفه بشكل قانوني أو حتى بشكل غير رسمي بين البشر أمر صعب. قد تكون بعض الأمثلة على خطاب الكراهية واضحة للغاية بحيث لا يستطيع أحد الاعتراض عليها. لكن حالات أخرى قد تكون أكثر دقة؛ نوع الأفعال التي من المرجح أن يتم تصنيفها على أنها "اعتداءات صغيرة". وكما قال قاضي المحكمة العليا في الولايات المتحدة بوتر ستيوارت في عبارته الشهيرة عن الفحش: "أعرفه عندما أراه".

قال كينيدي لـ Digital Trends: "هناك أنواع عديدة من خطاب الكراهية واللغة المسيئة". "من السهل الإبلاغ عن بعض خطابات الكراهية - على سبيل المثال، الافتراءات. لكن معظم خطابات الكراهية معقدة من الناحية الخطابية، إذ تعمل على شيطنة وتجريد الإنسان من إنسانيته من خلال الاستعارة، والقوالب النمطية الخاصة بثقافات محددة، و"صفارات الكلاب".

جعل المشكلة أسوأ، وليس أفضل

السابق مطاردة خطاب الكراهية بالذكاء الاصطناعي وقد أثبتت الأدوات عدم فعاليتها لأنها أداة صريحة للغاية بحيث لا يمكنها الكشف عن أمثلة أكثر تعقيدًا للتحيز عبر الإنترنت. إن خوارزميات الكشف عن خطاب الكراهية سيئة التصميم، بعيدة كل البعد عن إيقاف خطاب الكراهية على الإنترنت لقد ثبت في الواقع أنه يضخم أشياء مثل التحيز العنصري عن طريق حظر التغريدات غير المسيئة التي ترسلها الأقليات مجموعات. يمكن أن يكون هذا شيئًا بسيطًا مثل حقيقة أن مصنفي خطاب الكراهية لديهم حساسية مفرطة لمصطلحات مثل "أسود" أو "مثلي الجنس" أو "متحول جنسيًا" والتي من المرجح أن تكون مرتبطة بمحتوى يحض على الكراهية في البعض إعدادات.

تمامًا مثل برنامج Tay chatbot الشهير من Microsoft، والذي تعلم السلوك العنصري بعد التفاعل مع المستخدمين، يمكن أن ينتهي الأمر بالمصنفين الذين تم تدريبهم على البيانات النصية الأصلية لوسائل التواصل الاجتماعي إلى الاعتماد بشدة على كلمات معينة مع تجاهل السياق المحيط بهم أو عدم إدراكه.

س

القدرة على تحليل الرسائل عبر الإنترنت بشكل أفضل في السياق هو ما يقوم به الذكاء الاصطناعي الجديد. وعد أنظمة الكشف. ويزعم نظام لولا في المملكة المتحدة أنه قادر على تحليل 25 ألف رسالة في الدقيقة للكشف عن السلوكيات الضارة ــ بما في ذلك التنمر عبر الإنترنت، والكراهية، وكراهية الإسلام ــ بدقة تصل إلى 98%. لا يقتصر جزء من هذا على النظر إلى الكلمات الرئيسية فحسب، بل باستخدام "محرك الكشف عن المشاعر" لمعرفة المشاعر التي يتم استثارتها في النص - سواء كانت حبًا أو غضبًا أو خوفًا أو ثقة أو غيرها.

وفي الوقت نفسه، جامعة جنوب كاليفورنيا أ. يعد نظام الكشف بالنظر إلى السياق وكذلك المحتوى.

"نقطة البداية لدينا في هذا البحث هي الطريقة القياسية، التي تقوم بتشفير تسلسل الرموز النصية إلى أرقام رقمية المتجهات، والتي تُستخدم [بعد ذلك] لإخراج تسمية الفئة "الكراهية" أو "عدم الكراهية" بشكل احتمالي،" براندون قال. "باستخدام خوارزمية "التفسير اللاحق" التي طورها أعضاء فريقنا، قمنا ببرمجة خطاب الكراهية المصنفات لإعطاء أهمية أقل لمعرفات المجموعة، وأكثر أهمية للسياق المحيط بالمجموعة معرفات."

تم اختبار النظام من خلال تحليل مقالات من موقع Stormfront المؤيد لتفوق العرق الأبيض والتقارير الأكثر حيادية لصحيفة نيويورك تايمز. يدعي منشئوها أنها قادرة على فرز المحتوى الذي يحض على الكراهية من المحتوى الذي لا يحض على الكراهية بمستوى دقة يصل إلى 90%.

حرب على جبهتين

ومع ذلك، لا يقتصر الأمر على الباحثين المستقلين الذين يقومون بتطوير أدوات للكشف عن خطاب الكراهية. تعمل الشبكات الاجتماعية أيضًا على حل هذه المشكلة.

"نحن الآن نزيل 10 ملايين قطعة من خطاب الكراهية وقال أميت بهاتاشاريا، مدير إدارة المنتجات في مجموعة نزاهة المجتمع على فيسبوك، لـ Digital Trends: "الربع". "تم اكتشاف حوالي 90% منها قبل أن يبلغنا المستخدمون عنها. لقد استثمرنا المزيد في - وتحسننا - في الكشف بشكل استباقي عن المحتوى الذي يحتمل أن يمثل انتهاكًا، بما في ذلك خطاب الكراهية.

وأوضح بهاتاشاريا أن تقنيات الكشف الخاصة بفيسبوك تركز على أشياء مثل مطابقة النص والصور يبحث عن الصور والسلاسل النصية المتطابقة التي تمت إزالتها بالفعل باعتبارها خطابًا يحض على الكراهية في مكان آخر على الموقع منصة. ويستخدم أيضًا مصنفات التعلم الآلي التي تحلل اللغة وأنواع المحتوى الأخرى. لدى فيسبوك نقاط بيانات إضافية أيضًا، حيث يمكنه الاطلاع على التفاعلات والتعليقات على المنشور لمعرفة كيفية القيام بذلك تتطابق هذه العناصر بشكل وثيق مع العبارات والأنماط والهجمات الشائعة التي شوهدت سابقًا في المحتوى الذي ينتهك خطاب الكراهية سياسات.

يستخدم تويتر أيضًا أدوات التعلم الآلي للقضاء على المحتوى الذي يحض على الكراهية. يعتمد بعض هذا على الكلمات الرئيسية، لكن تويتر يقوم أيضًا بتحليل سلوك المستخدم لمحاولة تحديد مدى راحة المستخدمين في التفاعلات. على سبيل المثال، سيتم النظر إلى المستخدم الذي يقوم بالتغريد على مستخدم آخر ويتم الرد عليه ثم متابعته بشكل مختلف عن الشخص الذي يقوم بالتغريد مباشرة إلى شخص آخر بشكل متكرر ولكن يتم تجاهله أو حظره. يمكن أن تساعد هذه الديناميكيات السلوكية في الكشف عن أنماط التحرش أو السلوك المستهدف غير المرغوب فيه والتي يمكن لتويتر استخدامها بعد ذلك لفهم محتوى ما يجري على منصته بشكل أفضل.

ومع ذلك، قال متحدث باسم تويتر لموقع Digital Trends إن الرسائل التي تم وضع علامة عليها على أنها مسيئة تتم مراجعتها يدويًا بواسطة البشر (بترتيب أولويات الآلة) لتحديد أنه تم التعرف عليهم بشكل صحيح هذه.

تحدي مستمر

قال بهاتاشاريا من فيسبوك إن الشبكة الاجتماعية حققت "تقدمًا كبيرًا" على مر السنين في الحد من خطاب الكراهية على منصاتها، وإن فريقها فخور بما أنجزته. وفي الوقت نفسه، قال بهاتاشاريا: "عملنا لم يكتمل أبدًا ونعلم أننا قد لا نتمكن أبدًا من منع كل جزء من المحتوى الذي يحض على الكراهية من الظهور على منصاتنا".

والحقيقة المحبطة هي أن خطاب الكراهية عبر الإنترنت ربما لن يتم حله كمشكلة على الإطلاق. على الأقل، ليس من دون أن يقوم الناس بالتغيير. قد يؤدي الإنترنت، على حسابه، إلى تضخيم أصوات بشرية معينة، وتضمين وتقنين تحيزات بشرية معينة، ولكن هذا لأنه مجرد إنسانية بشكل عام. مهما كانت المشاكل الموجودة في العالم الحقيقي، فإنها سوف تجد طريقها إلى حد ما إلى عالم الإنترنت.

ومع ذلك، فإن اتخاذ إجراءات صارمة ضد السلوك المسيء عبر الإنترنت لا يجب أن يكون رد فعل. ويمكن أن تكون استباقية أيضًا. على سبيل المثال، أشار المتحدث باسم تويتر الذي تحدث مع Digital Trends إلى أنه من بين المستخدمين الذين لديهم حسابات محظورة لمدة 12 ساعة بسبب مخالفات القواعد، فإن الأغلبية يقومون بالإساءة مرة أخرى. يشير هذا إلى إمكانية حدوث لحظات قابلة للتعليم. سواء أكانت تحث المستخدمين حقًا على إعادة النظر في سلوكهم أو ببساطة تمنعهم من التصرف بطريقة تنتهك القواعد، فإنها مع ذلك تقلل من السلوك المزعج المخالف للقواعد على المنصة.

وقال المتحدث أيضًا إن تويتر يستكشف الآن نظامًا قائمًا على "الدفع". سيوفر هذا مطالبات قبل قيام المستخدمين بالتغريد، لتنبيههم إلى أن ما هم على وشك نشره قد يتعارض مع قواعد تويتر. قد يكون هذا بسبب كلمة رئيسية معينة. عند مشاركة مقال لم تفتحه عبر تويتر، فقد يعرض أيضًا تحذيرًا. تم اختبار نظام الدفع هذا مؤخرًا مع عدد صغير من المستخدمين. ورغم أن النسخة التجريبية قد انتهت الآن، إلا أن هناك احتمالية لطرحها كميزة لجميع المستخدمين في المستقبل.

مستقبل الخطاب على شبكة الإنترنت

أصبحت مسألة خطاب الكراهية وغيره من الخطابات المسيئة على وسائل التواصل الاجتماعي أكثر إلحاحًا. وفي فرنسا مثلا أ تم إقرار القانون في مايو الذي يدعو إلى إزالة محتوى إجرامي معين من وسائل التواصل الاجتماعي في غضون ساعة. وإذا لم يكن الأمر كذلك، فستواجه شركات التواصل الاجتماعي المعنية غرامة تصل إلى 4% من إيراداتها العالمية. ويجب إزالة المحتوى الآخر "غير المشروع بشكل واضح" خلال 24 ساعة. وقالت وزيرة العدل نيكول بيلوبيه للبرلمان الفرنسي إن القانون سيساعد في الحد من خطاب الكراهية عبر الإنترنت.

لم يتم اقتراح مثل هذا القانون جديًا، على حد علمنا، في الولايات المتحدة. ولكن مع تحول وسائل التواصل الاجتماعي إلى جزء أكبر وأكثر تأثيرا من كيفية تواصلنا، فإن اتخاذ إجراءات صارمة ضد السلوكيات السامة سوف يصبح ذا أهمية متزايدة. هذه ليست مشكلة يمكن معالجتها بواسطة المشرفين البشريين فقط. ولكنها أيضًا مسألة يجب أن تتم بعناية، عندما يتم تنفيذها باستخدام الذكاء الاصطناعي، ليس فقط للتأكد من أنها تجعل المشكلة أفضل، ولكن لضمان أنها لا تجعلها أسوأ.

يعتمد مستقبل الخطاب على الإنترنت على ذلك.

توصيات المحررين

• كيف أ. ابتكرت تلك اللقطات الرياضية الرائعة التي لا يمكنك التوقف عن مشاهدتها