लेकिन इसमें समाधान हो सकता है - या कम से कम एल्गोरिदम की निगरानी करने और यह बताने का एक तरीका हो सकता है कि क्या उन्होंने किसी जनसांख्यिकीय के साथ अनुचित रूप से भेदभाव किया है।
अनुशंसित वीडियो
"सीखे गए भविष्यवाणी नियम अक्सर समझने में बहुत जटिल होते हैं।"
Google, शिकागो विश्वविद्यालय और टेक्सास विश्वविद्यालय, ऑस्टिन के कंप्यूटर वैज्ञानिकों की एक टीम द्वारा प्रस्तावित पर्यवेक्षित शिक्षण में अवसर की समानता दृष्टिकोण भेदभाव का पता लगाने के लिए निर्णय लेने की प्रक्रियाओं के बजाय मशीन लर्निंग प्रोग्राम द्वारा लिए गए निर्णयों का विश्लेषण करता है। इन एल्गोरिदम की प्रकृति मानव समीक्षा से छिपे एक ब्लैक बॉक्स में, अपने स्वयं के तर्क के साथ, स्वयं निर्णय लेना है। इस प्रकार, शोधकर्ता ब्लैक बॉक्स तक पहुंच प्राप्त करना व्यावहारिक रूप से व्यर्थ मानते हैं।
शिकागो विश्वविद्यालय के कंप्यूटर वैज्ञानिक और सह-लेखक, "सीखे गए भविष्यवाणी नियम अक्सर समझने में बहुत जटिल होते हैं।" नाथन स्रेब्रो, डिजिटल ट्रेंड्स को बताया। “दरअसल, मशीन लर्निंग का पूरा उद्देश्य स्वचालित रूप से एक [सांख्यिकीय] अच्छे नियम को सीखना है... ऐसा नहीं जिसका विवरण आवश्यक रूप से मनुष्यों के लिए समझ में आता हो। सीखने के इस दृष्टिकोण को ध्यान में रखते हुए, हम सीखे गए नियमों को ब्लैक बॉक्स के रूप में मानते हुए गैर-भेदभाव की भावना सुनिश्चित करने में भी सक्षम होना चाहते थे।
स्रेब्रो और सह-लेखक मोरिट्ज़ हार्ड्ट गूगल का और एरिक प्राइस यूटी ऑस्टिन ने एल्गोरिदम के निर्णयों का विश्लेषण करने और यह सुनिश्चित करने के लिए एक दृष्टिकोण विकसित किया कि यह निर्णय लेने की प्रक्रिया में भेदभाव नहीं करता है। ऐसा करने के लिए, उन्होंने पूर्वाग्रह-विरोधी सिद्धांत का नेतृत्व किया कि किसी विशेष व्यक्ति के बारे में निर्णय केवल उस व्यक्ति की जनसांख्यिकीय पर आधारित नहीं होना चाहिए। एआई कार्यक्रम के मामले में, किसी व्यक्ति के बारे में एल्गोरिदम के निर्णय से उस व्यक्ति के लिंग या नस्ल के बारे में कुछ भी प्रकट नहीं होना चाहिए जो अनुचित रूप से भेदभावपूर्ण हो।
यह एक ऐसा परीक्षण है जो समस्या को सीधे हल नहीं करता है बल्कि भेदभावपूर्ण प्रक्रियाओं को चिह्नित करने और रोकने में मदद करता है। इस कारण से, कुछ शोधकर्ता सावधान हैं।
"मशीन सीखना बहुत अच्छा है यदि आप इसका उपयोग तेल पाइपलाइन को रूट करने का सबसे अच्छा तरीका निकालने के लिए कर रहे हैं," नोएल शार्कीशेफ़ील्ड विश्वविद्यालय में रोबोटिक्स और एआई के एमेरिटस प्रोफेसर ने बताया अभिभावक. "जब तक हम इस बारे में अधिक नहीं जानते कि पूर्वाग्रह उनमें कैसे काम करते हैं, मुझे उनके द्वारा लोगों के जीवन को प्रभावित करने वाली भविष्यवाणियाँ करने को लेकर बहुत चिंता रहेगी।"
स्रेब्रो इस चिंता को समझते हैं लेकिन इसे अपनी टीम के दृष्टिकोण की व्यापक आलोचना नहीं मानते हैं। “मैं इस बात से सहमत हूं कि उच्च जोखिम वाले कई अनुप्रयोगों में व्यक्तियों, विशेषकर सरकार और पर प्रभाव पड़ता है न्यायिक अधिकारियों के अनुसार, ब्लैक बॉक्स सांख्यिकीय भविष्यवक्ताओं का उपयोग उचित नहीं है और पारदर्शिता महत्वपूर्ण है।" उसने कहा। “अन्य स्थितियों में, जब वाणिज्यिक संस्थाओं द्वारा उपयोग किया जाता है और जब व्यक्तिगत हिस्सेदारी कम होती है, तो ब्लैक बॉक्स सांख्यिकीय भविष्यवक्ता उपयुक्त और कुशल हो सकते हैं। उन्हें पूरी तरह से अस्वीकार करना कठिन हो सकता है लेकिन विशिष्ट संरक्षित भेदभाव के लिए नियंत्रण करना अभी भी वांछनीय है।"
पर्यवेक्षित शिक्षण में अवसर की समानता पर पेपर इस महीने बार्सिलोना, स्पेन में न्यूरल इंफॉर्मेशन प्रोसेसिंग सिस्टम्स (एनआईपीएस) में प्रस्तुत मुट्ठी भर में से एक था, जिसने एल्गोरिदम में भेदभाव का पता लगाने के लिए दृष्टिकोण की पेशकश की थी। अभिभावक.
संपादकों की सिफ़ारिशें
- Google Bard जल्द ही आपका नया AI जीवन कोच बन सकता है
- एलोन मस्क की नई एआई कंपनी का लक्ष्य 'ब्रह्मांड को समझना' है
- सारा इंटरनेट अब Google के AI के अंतर्गत है
- Google ने कर्मचारियों को AI चैटबॉट्स से सावधान रहने को कहा है
- म्यूजिकएलएम क्या है? Google का टेक्स्ट-टू-म्यूज़िक AI देखें
अपनी जीवनशैली को उन्नत करेंडिजिटल ट्रेंड्स पाठकों को सभी नवीनतम समाचारों, मजेदार उत्पाद समीक्षाओं, व्यावहारिक संपादकीय और एक तरह की अनूठी झलक के साथ तकनीक की तेज़ गति वाली दुनिया पर नज़र रखने में मदद करता है।
