ولكن قد يكون هناك حل - أو على الأقل طريقة لمراقبة الخوارزميات ومعرفة ما إذا كانت قد مارست تمييزًا غير لائق ضد مجموعة سكانية.
مقاطع الفيديو الموصى بها
"غالبًا ما تكون قواعد التنبؤ المستفادة معقدة للغاية بحيث لا يمكن فهمها."
تم اقتراحه من قبل فريق من علماء الكمبيوتر من Google وجامعة شيكاغو وجامعة تكساس في أوستن تكافؤ الفرص في التعلم تحت الإشراف ويحلل هذا النهج القرارات التي تتخذها برامج التعلم الآلي - وليس عمليات صنع القرار نفسها - لاكتشاف التمييز. إن طبيعة هذه الخوارزميات هي اتخاذ القرارات من تلقاء نفسها، وبمنطقها الخاص، في صندوق أسود مخفي عن المراجعة البشرية. وعلى هذا النحو، يرى الباحثون أن الوصول إلى الصناديق السوداء أمر غير مجدٍ من الناحية العملية.
"إن قواعد التنبؤ المكتسبة غالباً ما تكون معقدة للغاية بحيث لا يمكن فهمها"، عالم الكمبيوتر بجامعة شيكاغو والمؤلف المشارك، ناثان سريبرو، قال الاتجاهات الرقمية. "في الواقع، الهدف الأساسي من التعلم الآلي هو التعلم تلقائيًا لقاعدة جيدة [إحصائيًا]... وليس القاعدة التي يكون وصفها منطقيًا بالضرورة للبشر. ومع وضع وجهة النظر هذه للتعلم في الاعتبار، أردنا أيضًا أن نكون قادرين على ضمان الشعور بعدم التمييز مع الاستمرار في التعامل مع القواعد المستفادة كصناديق سوداء.
سريبرو والمؤلفين المشاركين موريتز هاردت جوجل و اريك برايس طورت جامعة تكساس في أوستن نهجًا لتحليل قرارات الخوارزمية والتأكد من أنها لا تميز في عملية صنع القرار. وللقيام بذلك، اتبعوا مبدأ مكافحة التحيز القائل بأن القرار بشأن شخص معين لا ينبغي أن يعتمد فقط على التركيبة السكانية لذلك الشخص. وفي حالة برنامج الذكاء الاصطناعي، لا ينبغي لقرار الخوارزمية بشأن أي شخص أن يكشف أي شيء عن جنس ذلك الشخص أو عرقه بطريقة قد تكون تمييزية بشكل غير لائق.
إنه اختبار لا يحل المشكلة بشكل مباشر ولكنه يساعد في تحديد العمليات التمييزية ومنعها. ولهذا السبب، فإن بعض الباحثين يشعرون بالقلق.
"يعد التعلم الآلي أمرًا رائعًا إذا كنت تستخدمه للتوصل إلى أفضل طريقة لتوجيه خط أنابيب النفط" نويل شاركيقال البروفيسور الفخري للروبوتات والذكاء الاصطناعي بجامعة شيفيلد: الحارس. وإلى أن نعرف المزيد عن كيفية عمل التحيزات فيها، سأكون قلقًا للغاية بشأن قيامها بتنبؤات تؤثر على حياة الناس.
ويدرك سريبرو هذا القلق لكنه لا يعتبره نقدًا شاملاً لنهج فريقه. "أوافق على أنه في العديد من التطبيقات ذات التأثير الكبير على الأفراد، وخاصة من قبل الحكومة السلطات القضائية، استخدام المتنبئات الإحصائية للصندوق الأسود ليس مناسبا والشفافية أمر حيوي. هو قال. "في حالات أخرى، عندما تستخدمها الكيانات التجارية وعندما تكون المخاطر الفردية أقل، قد تكون التنبؤات الإحصائية للصندوق الأسود مناسبة وفعالة. قد يكون من الصعب رفضها تمامًا ولكن لا يزال من المرغوب فيه التحكم في تمييز محمي محدد.
ال ورقة عن تكافؤ الفرص في التعلم تحت الإشراف كانت واحدة من مجموعة قليلة تم تقديمها هذا الشهر في أنظمة معالجة المعلومات العصبية (NIPS) في برشلونة بإسبانيا، والتي عرضت طرقًا للكشف عن التمييز في الخوارزميات، وفقًا لما ذكره الباحثون. الحارس.
توصيات المحررين
- يمكن أن يصبح Google Bard قريبًا مدرب حياتك الجديد القائم على الذكاء الاصطناعي
- تهدف شركة الذكاء الاصطناعي الجديدة التابعة لإيلون ماسك إلى "فهم الكون"
- تنتمي شبكة الإنترنت بأكملها الآن إلى الذكاء الاصطناعي التابع لشركة Google
- تطلب Google من موظفيها توخي الحذر من روبوتات الدردشة التي تعمل بالذكاء الاصطناعي
- ما هو MusicLM؟ تحقق من الذكاء الاصطناعي لتحويل النص إلى موسيقى من Google
ترقية نمط حياتكتساعد الاتجاهات الرقمية القراء على متابعة عالم التكنولوجيا سريع الخطى من خلال أحدث الأخبار ومراجعات المنتجات الممتعة والمقالات الافتتاحية الثاقبة ونظرات خاطفة فريدة من نوعها.
