अमेज़ॅन ने 28 कांग्रेस सदस्यों को गलत तरीके से अपराधी के रूप में मान्यता दी

अमेज़ॅन इसके लिए ड्राइंग बोर्ड पर वापस जाना चाह सकता है। एक चेहरे की पहचान करने वाला उपकरण जो खुदरा दिग्गज वर्तमान में डेवलपर्स द्वारा पेश किया जाता है काफी गलती है न्यूयॉर्क टाइम्स की रिपोर्ट के अनुसार, अमेरिकन सिविल लिबर्टीज यूनियन (एसीएलयू) द्वारा आयोजित एक परीक्षण में। कांग्रेस के 28 सदस्यों को देश की विधायी शाखा के सदस्यों के रूप में पहचानने के बजाय, टूल ने इन व्यक्तियों को पुलिस संदिग्धों के रूप में वर्गीकृत किया। मामले को बदतर बनाने के लिए, अफ़्रीकी-अमेरिकी और लातीनी कांग्रेस सदस्यों की अनुपातहीन संख्या ग़लत थी पहचान की गई, जिससे यह सवाल उठा कि हमारी मशीन लर्निंग में भी नस्लीय प्रोफाइलिंग किस हद तक अंतर्निहित हो गई है सॉफ़्टवेयर।

अब कांग्रेस जवाब चाहती है. गलत पहचान वाले पांच सांसद अमेज़ॅन के सीईओ जेफ बेजोस के साथ "तत्काल" बैठक का अनुरोध कर रहे हैं। गुरुवार, 26 जुलाई को, प्रतिनिधि। जिमी गोमेज़, जॉन लुईस, लुइस गुटिरेज़, और मार्क डीसॉल्नियर, साथ ही सीनेटर। एडवर्ड मार्के ने ऑनलाइन रिटेल दिग्गज को पत्र भेजकर पूछा कि वे बेमेल क्यों हैं। लेकिन गलत पहचान के इन मामलों के व्यक्तिगत प्रभावों से परे, कांग्रेसी मांग कर रहे हैं "गलतियों को रोकने के लिए इस तकनीक के दोषों को कैसे दूर किया जाए" का उत्तर दिया गया है परिणाम।"

अमेज़ॅन ने अभी तक यह संकेत नहीं दिया है कि उसके मुख्य कार्यकारी इन बैठकों को स्वीकार करेंगे या नहीं।

एक अलग बयान में, प्रतिनिधि। जी.के. बटरफील्ड ने कहा, "मैं इस तकनीक से जुड़े गलत परिणामों से परेशान हूं, चूँकि वहाँ स्पष्ट अंधे धब्बे हैं जिनके विशेष रूप से लोगों के लिए अनपेक्षित परिणाम होंगे रंग। हालाँकि इस तकनीक में दूरगामी आर्थिक क्षमता हो सकती है, मैं अमेज़न को इसके उपयोग के सर्वोत्तम तरीकों पर अपने उपयोगकर्ताओं को बेहतर प्रशिक्षण देने के लिए प्रोत्साहित करता हूँ प्रौद्योगिकी, अपनी सीमाओं के बारे में खुले और स्पष्ट रहें, और अधिक रंगीन कर्मचारियों को नियुक्त करें जो इस की खामियों को दूर करने में उचित रूप से सहायता कर सकें तकनीकी।"

गलत पहचाने गए सांसदों में प्रतिनिधि भी शामिल थे। जॉन लुईस और बॉबी रश, दोनों प्रसिद्ध नागरिक अधिकार नेता और कांग्रेसनल ब्लैक कॉकस के सदस्य हैं। लेकिन निर्वाचित प्रतिनिधियों के रूप में पहचाने जाने के बजाय, इन दोनों व्यक्तियों (26 अन्य लोगों के साथ) को गलत तरीके से अपराधी के रूप में चिह्नित किया गया। ये गलतियाँ तब हुईं जब ACLU ने 25,000 सार्वजनिक रूप से सुलभ मगशॉट्स के डेटाबेस के विरुद्ध कांग्रेस के सभी सदस्यों की छवियों का विश्लेषण करने के लिए अमेज़ॅन का सॉफ़्टवेयर लिया। इसके परिणामस्वरूप 28 कांग्रेस सदस्यों को गलत तरीके से कानून तोड़ने वालों के रूप में पहचाना गया, जो 5 प्रतिशत त्रुटि दर का प्रतिनिधित्व करता है।

उत्तरी कैलिफोर्निया के एसीएलयू के प्रौद्योगिकी और नागरिक स्वतंत्रता वकील जैकब स्नो ने द न्यूयॉर्क टाइम्स को बताया, "यह परीक्षण पुष्टि करता है कि चेहरे की पहचान त्रुटिपूर्ण, पक्षपातपूर्ण और खतरनाक है।"

परीक्षण के जवाब में, अमेज़ॅन वेब सर्विसेज की प्रवक्ता नीना लिंडसे ने कहा कि ACLU ने फेस मैचिंग टूल (जिसे कहा जाता है) का उपयोग किया अमेज़ॅन मान्यता) अमेज़ॅन की सिफारिशों से अलग। “यह ध्यान देने योग्य है कि वास्तविक दुनिया के परिदृश्यों में, अमेज़ॅन रिकॉग्निशन का उपयोग लगभग विशेष रूप से कम करने में मदद के लिए किया जाता है फ़ील्ड और मनुष्यों को अपने निर्णय का उपयोग करके विकल्पों की शीघ्रता से समीक्षा करने और विचार करने की अनुमति दें, ”लिंडसे ने एक में कहा कथन।

उन्होंने आगे बताया कि ACLU ने टूल की "विश्वास सीमा" को 80 प्रतिशत के डिफ़ॉल्ट पर रखा है। इसका मतलब यह है कि समूह ने किसी भी चेहरे को पुलिस डेटाबेस के समान 80 प्रतिशत के रूप में ध्यान में रखा। हालाँकि, यह ध्यान देने योग्य है कि अमेज़ॅन अपनी वेबसाइट पर एक उदाहरण में उसी सीमा का उपयोग करता है, जिसमें दिखाया गया है कि कर्मचारियों के चेहरे को उनके आईडी बैज के साथ कैसे मिलान किया जा सकता है। लिंडसे ने कहा कि पुलिस विभागों के मामले में, अमेज़ॅन अनुशंसा करता है कि इस प्रकार की गलतियों से बचने के लिए 95 प्रतिशत समानता की सीमा लागू की जाए।

अमेज़ॅन पहले भी रिकॉग्निशन बेचने के लिए आलोचना का शिकार हो चुका है। मई में, ACLU के नेतृत्व में 24 नागरिक स्वतंत्रता समूहों ने अमेज़ॅन के सीईओ जेफ बेजोस को एक पत्र लिखकर अनुरोध किया कि सॉफ़्टवेयर को कानून प्रवर्तन एजेंसियों को बेचा जाना बंद कर दिया जाए। समूहों ने चिंता व्यक्त की कि सॉफ़्टवेयर का उपयोग केवल पुलिस संदिग्धों के बजाय प्रदर्शनकारियों, अप्रवासियों या जनता के सामान्य सदस्यों पर नज़र रखने के लिए किया जा सकता है। तब से अमेज़ॅन के कर्मचारियों, निवेशकों और शिक्षाविदों ने अमेज़ॅन से इसी तरह की मांग की है।

हालाँकि, फिलहाल वेब दिग्गज के लिए यह संभव नहीं दिख रहा है। जैसा कि अमेज़ॅन के प्रवक्ता ने कहा, "हम इस बात को लेकर उत्साहित हैं कि कैसे छवि और वीडियो विश्लेषण दुनिया में अच्छाई के लिए चालक हो सकते हैं।"

27 जुलाई को अपडेट किया गया: कांग्रेस अमेज़ॅन से उसके रिकॉग्निशन सॉफ़्टवेयर द्वारा की गई गलतियों के संबंध में जवाब मांग रही है।

संपादकों की सिफ़ारिशें

• आउच! कुछ अमेज़ॅन प्राइम सदस्यों को 43% मूल्य वृद्धि का सामना करना पड़ता है
• फेसबुक, गूगल, अमेज़ॅन और ऐप्पल के सीईओ को कांग्रेस के लिए गवाही देते हुए कैसे देखें
• Amazon, Apple, Facebook और Google जुलाई में कांग्रेस के सामने गवाही देंगे
• सेन जोश हॉले ने अमेज़ॅन में आपराधिक अविश्वास जांच का आह्वान किया
• अमेरिकी सैन्य चेहरे की पहचान 1 किमी दूर से लोगों की पहचान कर सकती है

अपनी जीवनशैली को उन्नत करेंडिजिटल ट्रेंड्स पाठकों को सभी नवीनतम समाचारों, मजेदार उत्पाद समीक्षाओं, व्यावहारिक संपादकीय और एक तरह की अनूठी झलक के साथ तकनीक की तेज़ गति वाली दुनिया पर नज़र रखने में मदद करता है।