वह कछुआ एक बंदूक है! वैज्ञानिकों ने छवि पहचान में बड़ी खामी उजागर की

उनके पेपर मेंएमआईटी शोधकर्ताओं की टीम एक एल्गोरिदम का वर्णन करती है जो किसी वस्तु की बनावट को इतना बदल देती है कि यह छवि वर्गीकरण एल्गोरिदम को मूर्ख बना सकती है। जिसे टीम "प्रतिकूल उदाहरण" कहती है उसका प्रमाण छवि पहचान प्रणालियों के लिए चौंकाने वाला साबित होता है, वस्तुओं को चाहे किसी भी कोण से देखा जाए - जैसे कि 3डी प्रिंटेड कछुआ जिसे लगातार पहचाना जाता है एक राइफल। यह ए.आई. का उपयोग करने वाली सुरक्षा प्रणालियों के लिए बुरी खबर है। संभावित सुरक्षा खतरों का पता लगाने के लिए।

"वास्तव में ऐसा नहीं है कि वे सही वर्गीकरण से बच रहे हैं - उन्हें एक चुने हुए प्रतिकूल के रूप में वर्गीकृत किया गया है क्लास, इसलिए अगर हम चाहते तो हम उन्हें किसी और चीज़ में बदल सकते थे, ”शोधकर्ता अनीश अथाल्ये ने डिजिटल को बताया रुझान. “राइफल और एस्प्रेसो वर्गों को समान रूप से यादृच्छिक रूप से चुना गया था। प्रतिकूल उदाहरण एक्सपेक्टेशन ओवर ट्रांसफॉर्मेशन (ईओटी) नामक एल्गोरिदम का उपयोग करके तैयार किए गए थे, जो हमारे शोध पत्र में प्रस्तुत किया गया है। एल्गोरिदम किसी भी बनावट वाले 3डी मॉडल, जैसे कि कछुआ, को लेता है और सूक्ष्मता से बदलने का एक तरीका ढूंढता है बनावट ऐसी है कि यह किसी दिए गए तंत्रिका नेटवर्क को यह सोचकर भ्रमित कर देता है कि कछुआ कोई चुना हुआ लक्ष्य है कक्षा।"

हालांकि 3डी-मुद्रित कछुए को राइफल के रूप में पहचाना जाना हास्यास्पद हो सकता है, तथापि, शोधकर्ताओं का कहना है कि इसके निहितार्थ बहुत ही भयानक हैं। उदाहरण के लिए, एक सुरक्षा प्रणाली की कल्पना करें जो बंदूकों या बमों को चिह्नित करने के लिए एआई का उपयोग करती है, लेकिन यह सोचकर धोखा दिया जा सकता है कि वे टमाटर, या कॉफी के कप, या यहां तक ​​​​कि पूरी तरह से अदृश्य हैं। यह उस प्रकार की छवि पहचान प्रणाली की कमज़ोरी को भी रेखांकित करता है जिस पर सेल्फ-ड्राइविंग कारें अपने आसपास की दुनिया को समझने के लिए तेज़ गति पर भरोसा करेंगी।

"हमारा काम दर्शाता है कि प्रतिकूल उदाहरण पहले से सोचे गए कई लोगों की तुलना में एक बड़ी समस्या हैं, और यह दर्शाता है कि प्रतिकूल उदाहरण तंत्रिका - तंत्र भौतिक दुनिया में ये एक वास्तविक चिंता का विषय हैं," अथालये ने जारी रखा। "यह समस्या सिर्फ एक बौद्धिक जिज्ञासा नहीं है: यह एक ऐसी समस्या है जिसे व्यावहारिक प्रणालियों के लिए हल करने की आवश्यकता है जो हमले से सुरक्षित रहने के लिए गहरी शिक्षा का उपयोग करती हैं।"

संपादकों की सिफ़ारिशें

• फोर्ड आपकी कार के पहियों को चोरी-रोधी बनाने के लिए आपकी आवाज़ का उपयोग कर सकता है
• बायोप्रिंटिंग में सफलता से प्रतिस्थापन अंगों की 3डी प्रिंटिंग संभव हो सकती है
• आख़िरकार 'अप्राप्य' 3डी मुद्रित बंदूकों का पता लगाने का एक तरीका आ गया है

अपनी जीवनशैली को उन्नत करेंडिजिटल ट्रेंड्स पाठकों को सभी नवीनतम समाचारों, मजेदार उत्पाद समीक्षाओं, व्यावहारिक संपादकीय और एक तरह की अनूठी झलक के साथ तकनीक की तेज़ गति वाली दुनिया पर नज़र रखने में मदद करता है।