डीपफेक और डीपफेक डिटेक्टरों के बीच युद्ध के अंदर

दुनिया के सबसे महान जासूस के साथ युद्ध में फंसे एक मास्टर अपराधी के बारे में एक मोड़दार फिल्म की कल्पना करें।

अपराधी हाथ की विशेषज्ञ कुशलता और खुद को ग्रह पर किसी भी व्यक्ति के रूप में छिपाने की अदभुत क्षमता का उपयोग करके, एक बड़े पैमाने पर आत्मविश्वास की चाल को अंजाम देना चाहता है। वह जो करता है उसमें इतना अच्छा है कि वह लोगों को यह विश्वास दिला सकता है कि उन्होंने ऐसी चीजें देखीं जो वास्तव में कभी नहीं हुईं।

लेकिन फिर हमारी मुलाकात जासूस से होती है। वह एक मेधावी, किसी भी चीज़ से दूर रहने वाली महिला है जो किसी भी चोर का पता लगा सकती है। वह जानती है कि क्या देखना है, और यहां तक ​​कि सबसे छोटा व्यवहार - यहां एक उभरी हुई भौंह, वहां एक गिरा हुआ स्वर - कुछ गड़बड़ होने पर उसे सचेत करने के लिए पर्याप्त है। वह हमारे प्रतिद्वंद्वी को पकड़ने वाली एकमात्र व्यक्ति है, और अब वह एक बार फिर उसकी राह पर है।

हालाँकि, एक समस्या है: हमारा चोर यह जानता है वह जानता है कि क्या देखना है। परिणामस्वरूप, नायक को इसका एहसास हुए बिना ही उसने अपना खेल बदल दिया है।

डीपफेक समस्या

संक्षेप में, यह अब तक डीपफेक और डीपफेक का पता लगाने की कहानी है। डीपफेक, सिंथेटिक मीडिया का एक रूप है जिसमें लोगों की समानता को डिजिटल रूप से बदला जा सकता है सामना करना रीमेक का निर्देशन ए.आई. ने किया है। शोधकर्ता, 2017 में सामने आने के बाद से चिंता का कारण बने हुए हैं। जबकि कई डीपफेक हल्के-फुल्के (स्वैपिंग आउट) होते हैं स्ली स्टैलोन के लिए आर्नी द टर्मिनेटर), वे एक संभावित खतरा भी पैदा करते हैं। डीपफेक का उपयोग वास्तविक दिखने वाले नकली अश्लील वीडियो बनाने के लिए किया गया है और उनका उपयोग राजनीतिक धोखाधड़ी के साथ-साथ वित्तीय धोखाधड़ी में भी किया गया है।

ऐसा न हो कि इस तरह की धोखाधड़ी और भी बड़ी समस्या बन जाए, किसी को इसमें हस्तक्षेप करने और निश्चित रूप से यह बताने में सक्षम होना चाहिए कि डीपफेक का उपयोग कब किया जा रहा है और कब नहीं।

पहले डीपफेक डिटेक्टरों के सामने आने में ज्यादा समय नहीं लगा। अप्रैल 2018 तक, मैंने कवर कर लिया ऐसा करने के पहले प्रयासों में से एक, जिसे जर्मनी के म्यूनिख के तकनीकी विश्वविद्यालय के शोधकर्ताओं द्वारा बनाया गया था। डीपफेक तकनीक की तरह ही, इसमें ए.आई. का उपयोग किया गया। - केवल इस बार इसके निर्माता इसका उपयोग नकली बनाने के लिए नहीं, बल्कि उन्हें पहचानने के लिए कर रहे थे।

डीपफेक डिटेक्टर डीपफेक के उन विवरणों की तलाश करके काम करते हैं जो मौजूद नहीं हैं अत्यंत न केवल अलौकिक घाटियाँ, बल्कि सबसे छोटे अलौकिक गड्ढे की तस्वीरें खंगालकर। वे छवियों से चेहरे का डेटा काटते हैं और फिर इसकी वैधता का पता लगाने के लिए इसे तंत्रिका नेटवर्क के माध्यम से पास करते हैं। मुफ़्त विवरण में बुरी तरह से पुनरुत्पादित आँख झपकाने जैसी चीज़ें शामिल हो सकती हैं।

लेकिन अब कैलिफोर्निया विश्वविद्यालय सैन डिएगो के शोधकर्ता वीडियो फ्रेम में प्रतिकूल उदाहरण कहे जाने वाले तत्वों को सम्मिलित करके डीपफेक डिटेक्टरों को हराने का एक तरीका लेकर आए हैं। प्रतिकूल उदाहरण ए.आई. में एक आकर्षक - फिर भी भयानक - गड़बड़ी हैं। आव्यूह। उदाहरण के लिए, वे सबसे चतुर पहचान प्रणालियों को भी मूर्ख बनाने में सक्षम हैं, यह सोचना कि कछुआ एक बंदूक है, या एस्प्रेसो एक बेसबॉल है। वे छवि में सूक्ष्मता से शोर जोड़कर ऐसा करते हैं ताकि यह तंत्रिका नेटवर्क को गलत वर्गीकरण करने का कारण बने।

जैसे किसी राइफल को गोलाधारी सरीसृप समझ लेना। या असली की जगह नकली वीडियो।

संसूचकों को मूर्ख बनाना

"यथार्थवादी डीपफेक वीडियो बनाने के तरीकों में हाल ही में वृद्धि हुई है," पार्थ नीखरायूसी सैन डिएगो कंप्यूटर इंजीनियरिंग स्नातक छात्र ने डिजिटल ट्रेंड्स को बताया। “चूंकि इन हेरफेर किए गए वीडियो का उपयोग दुर्भावनापूर्ण उद्देश्यों के लिए किया जा सकता है, ऐसे डिटेक्टर विकसित करने में एक महत्वपूर्ण प्रयास किया गया है जो विश्वसनीय रूप से डीपफेक वीडियो का पता लगा सकते हैं। उदाहरण के लिए, फेसबुक डीपफेक डिटेक्टर विकसित करने पर अनुसंधान में तेजी लाने के लिए हाल ही में डीपफेक डिटेक्शन चैलेंज लॉन्च किया गया। [लेकिन] जबकि ये पता लगाने के तरीके नकली और वास्तविक वीडियो के डेटासेट पर 90% से अधिक सटीकता प्राप्त कर सकते हैं, हमारे काम से पता चलता है कि उन्हें एक हमलावर द्वारा आसानी से बायपास किया जा सकता है। एक हमलावर वीडियो के प्रत्येक फ्रेम में सावधानी से तैयार किया गया शोर, जो मानव आंखों के लिए काफी अगोचर है, इंजेक्ट कर सकता है ताकि यह पीड़ित डिटेक्टर द्वारा गलत वर्गीकृत हो जाए।

हमलावर इन वीडियो को तैयार कर सकते हैं, भले ही उन्हें डिटेक्टर की वास्तुकला और मापदंडों का विशिष्ट ज्ञान न हो। ये हमले वीडियो संपीड़ित होने के बाद भी काम करते हैं, जैसे कि वे तब होते जब उन्हें YouTube जैसे प्लेटफ़ॉर्म पर ऑनलाइन साझा किया जाता।

जब परीक्षण किया गया, तो डिटेक्टर मॉडल तक पहुंच दिए जाने पर यह विधि डिटेक्शन सिस्टम को मूर्ख बनाने में 99% से अधिक सक्षम थी। हालाँकि, अपने सबसे निचले सफलता स्तर पर भी - संपीड़ित वीडियो के लिए जिसमें डिटेक्टर मॉडल के बारे में कोई जानकारी नहीं थी - फिर भी इसने उन्हें 78.33% बार हरा दिया। यह कोई अच्छी खबर नहीं है.

नीखरा ने कहा कि शोधकर्ता इस आधार पर अपने कोड को प्रकाशित करने से इनकार कर रहे हैं कि इसका दुरुपयोग किया जा सकता है। "हमारे कोड का उपयोग करके उत्पन्न प्रतिकूल वीडियो संभावित रूप से अन्य अनदेखे डीपफेक डिटेक्टरों को बायपास कर सकते हैं जिनका उपयोग कुछ सोशल मीडिया [प्लेटफ़ॉर्म] द्वारा उत्पादन में किया जा रहा है," उन्होंने समझाया। "हम उन टीमों के साथ सहयोग कर रहे हैं जो इन डीपफेक डिटेक्शन सिस्टम के निर्माण पर काम कर रहे हैं, और अधिक मजबूत डिटेक्शन सिस्टम बनाने के लिए अपने शोध का उपयोग कर रहे हैं।"

डीपफेक बिल्ली और चूहे का खेल

निःसंदेह, यह कहानी का अंत नहीं है। हमारी फिल्म सादृश्य पर लौटने के लिए, यह फिल्म अभी भी लगभग 20 मिनट की होगी। हम अभी तक उस स्थान पर नहीं पहुंचे हैं जहां जासूस को पता चलता है कि चोर सोचता है कि उसने उसे बेवकूफ बना दिया है। या उस हद तक जहां चोर को पता चलता है कि जासूस जानता है कि वह जानता है कि वह जानती है। या.. आपको चित्र मिल जाएगा।

डीपफेक का पता लगाने के लिए ऐसा चूहे-बिल्ली का खेल, जिसके अनिश्चित काल तक जारी रहने की संभावना है, साइबर सुरक्षा में काम करने वाला कोई भी व्यक्ति अच्छी तरह से जानता है। दुर्भावनापूर्ण हैकर्स कमजोरियां ढूंढते हैं, जिन्हें बाद में डेवलपर्स द्वारा ब्लॉक कर दिया जाता है, इससे पहले कि हैकर्स अपने निश्चित संस्करण में कमजोरियां ढूंढते हैं, जिसे बाद में डेवलपर्स द्वारा फिर से संशोधित किया जाता है। अनंत काल तक जारी रखें.

"हां, डीपफेक जेनरेशन और डिटेक्शन सिस्टम वायरस और एंटीवायरस गतिशीलता का बारीकी से पालन करते हैं।" शहज़ीन हुसैन, एक यूसी सैन डिएगो कंप्यूटर इंजीनियरिंग पीएच.डी. छात्र ने डिजिटल ट्रेंड्स को बताया। “वर्तमान में, डीपफेक डिटेक्टरों को मौजूदा डीपफेक संश्लेषण तकनीकों का उपयोग करके उत्पन्न वास्तविक और नकली वीडियो के डेटासेट पर प्रशिक्षित किया जाता है। इस बात की कोई गारंटी नहीं है कि ऐसे डिटेक्टर भविष्य के डीपफेक जेनरेशन सिस्टम के खिलाफ फुलप्रूफ होंगे... आगे बने रहने के लिए हथियारों की दौड़ में, पता लगाने के तरीकों को नियमित रूप से अद्यतन करने और आगामी डीपफेक संश्लेषण तकनीकों पर प्रशिक्षित करने की आवश्यकता है। [उन्हें] प्रशिक्षण के दौरान प्रतिकूल वीडियो को शामिल करके प्रतिकूल उदाहरणों के लिए मजबूत बनाने की भी आवश्यकता है।

ए इस कार्य का वर्णन करने वाला पेपर, जिसका शीर्षक "एडवर्सेरियल डीपफेक: एडवर्सेरियल उदाहरणों के लिए डीपफेक डिटेक्टरों की भेद्यता का मूल्यांकन" है, हाल ही में WACV 2021 वर्चुअल कॉन्फ्रेंस में प्रस्तुत किया गया था।

संपादकों की सिफ़ारिशें

• एआई ने ब्रेकिंग बैड को एनीमे में बदल दिया - और यह डरावना है
• एआई कभी दुनिया पर राज क्यों नहीं करेगा?
• ऑप्टिकल भ्रम हमें एआई की अगली पीढ़ी बनाने में मदद कर सकता है
• अंतिम स्पर्श: कैसे वैज्ञानिक रोबोटों को मानव जैसी स्पर्श संवेदना दे रहे हैं
• एनालॉग ए.आई.? यह पागलपन जैसा लगता है, लेकिन यह भविष्य हो सकता है

अपनी जीवनशैली को उन्नत करेंडिजिटल ट्रेंड्स पाठकों को सभी नवीनतम समाचारों, मजेदार उत्पाद समीक्षाओं, व्यावहारिक संपादकीय और एक तरह की अनूठी झलक के साथ तकनीक की तेज़ गति वाली दुनिया पर नज़र रखने में मदद करता है।