क्या डीपफेक खतरनाक हैं? निर्माता और नियामक असहमत हैं

पिछले कुछ वर्षों में, डीपफेक मीम्स और पैरोडी सामग्री के लिए इंटरनेट के नवीनतम पसंदीदा के रूप में उभरे हैं।

अंतर्वस्तु

महान शक्ति के साथ महान पुनर्स्थापन आता है
डीपफेक को बचाने के लिए आंदोलन
क्या डीपफेक को विनियमित किया जाना चाहिए?

यह देखना आसान है कि क्यों: वे रचनाकारों को वास्तविकता के नियमों को मोड़ने में सक्षम बनाते हैं, जैसा पहले किसी अन्य तकनीक ने नहीं किया था। डीपफेक के जादू के जरिए आप देख सकते हैं जेनिफ़र लॉरेंस ने स्टीव बुसेमी के चेहरे से भाषण दिया, देखो क्या रयान रेनॉल्ड्स विली वोंका की तरह दिखते होंगे, और यहां तक कि पकड़ो भी हिटलर और स्टालिन गा रहे हैंवीडियो किल्ड द रेडियो स्टार एक युगल में.

अनुशंसित वीडियो

शुरुआती लोगों के लिए, डीपफेक तकनीक सिंथेटिक मीडिया का एक रूप है जो उपयोगकर्ताओं को किसी और के चेहरे पर एक अलग चेहरा लगाने की अनुमति देता है जो मूल से लगभग अप्रभेद्य है। यह चेहरे की आकृति और अन्य विशेषताओं को समझने के लिए डेटा के ढेर को पढ़कर स्वाभाविक रूप से दृश्य में मिश्रण और चेतन करने के लिए ऐसा करता है।

महान शक्ति के साथ महान पुनर्स्थापन आता है

दुर्भाग्य से, नेक इरादे वाले वीडियो कलाकारों के लिए एक रचनात्मक उपकरण के रूप में उनकी क्षमता के अलावा, डीपफेक में नुकसान पहुंचाने की भी जबरदस्त क्षमता होती है।

हाल ही में यूसीएल जिल डांडो इंस्टीट्यूट ऑफ सिक्योरिटी एंड क्राइम साइंस में डावेस सेंटर फॉर फ्यूचर क्राइम द्वारा अध्ययन डीपफेक को सबसे गंभीर ए.आई.-सक्षम खतरा करार दिया गया। सेन बेन सासे, एक नेब्रास्कन रिपब्लिकन जिन्होंने डीपफेक की दुर्भावनापूर्ण रचना को अपराध घोषित करने के लिए एक विधेयक पेश किया है, आगाह पिछले साल कहा गया था कि यह तकनीक "मानव जीवन को नष्ट कर सकती है," "वित्तीय बाजारों को तहस-नहस कर सकती है," और यहां तक कि "दुनिया भर में सैन्य संघर्षों को भी बढ़ावा दे सकती है।"

कुछ हद तक, ये चिंताएँ उचित हैं। आख़िरकार, डीपफेक तकनीक के प्रसार ने पहले से ही मशहूर हस्तियों की विशेषता वाली नकली वयस्क सामग्री के उत्पादन और व्यंग्य के लिए राजनेताओं के जीवंत प्रतिरूपण जैसी चीजों को सक्षम कर दिया है। इस साल की शुरुआत में, व्हाइट हाउस के सोशल मीडिया निदेशक, डैन स्कैविनो, ट्वीट किए खराब ढंग से छेड़छाड़ की गई एक क्लिप, जिसे राष्ट्रपति डोनाल्ड ट्रम्प ने भी रीट्वीट किया था, जिसमें ट्रम्प के प्रतिद्वंद्वी जो बिडेन लोगों से ट्रम्प को फिर से चुनने के लिए कह रहे थे।

ट्रंप ने बिडेन का संपादित वीडियो रीट्वीट किया। यहाँ वास्तव में बिडेन ने क्या कहा है।

हालाँकि, ये कम-पुष्टि करने वाली अफवाहें जनता तक पहुंचने से पहले ही खारिज कर दी गई हैं। इससे भी महत्वपूर्ण बात यह है कि विशेषज्ञों का सुझाव है कि डीपफेक वीडियो का अब तक सामाजिक प्रभाव बहुत कम या कोई नहीं है, और वे वर्तमान में कोई आसन्न खतरा पैदा नहीं करते हैं। उदाहरण के लिए, द्वारा किया गया शोध संवेदनशीलतादृश्य खतरों पर ध्यान केंद्रित करने वाली एक साइबर सुरक्षा फर्म का दावा है कि अधिकांश डीपफेक वीडियो हैं अश्लील (96%) और प्रौद्योगिकी ने अभी तक किसी भी महत्वपूर्ण दुष्प्रचार में अपनी जगह नहीं बनाई है अभियान.

इसी प्रकार, ए जॉर्जटाउन विश्वविद्यालय की रिपोर्ट निष्कर्ष निकाला कि हालांकि डीपफेक एक "प्रभावशाली तकनीकी उपलब्धि" है, लेकिन नीति निर्माताओं को इसमें जल्दबाजी नहीं करनी चाहिए यह प्रचार इसलिए किया जा रहा है क्योंकि तकनीक फिलहाल सही नहीं है और यह वास्तविक दुनिया की घटनाओं को प्रभावित नहीं कर सकती है अभी तक।

सबसे लोकप्रिय डीपफेक चैनल Ctrl Shift Face के निर्माता, जिनके वीडियो लाखों लोगों द्वारा देखे जाते हैं, "हिस्टीरिया" पर विश्वास करते हैं डीपफेक विषय के इर्द-गिर्द घूमने से सांसदों का ध्यान वास्तविक मुद्दों से हट रहा है, जैसे कि खराब विनियमित विज्ञापन नेटवर्क चालू फेसबुक जो वास्तव में लोगों को गुमराह करने के लिए जिम्मेदार हैं।

Ctrl Shift Face ने डिजिटल ट्रेंड्स के साथ एक साक्षात्कार में कहा, "अगर कभी कोई हानिकारक डीपफेक होगा, तो फेसबुक वह जगह है जहां यह फैलेगा।" “उस मामले में, बड़ा मुद्दा क्या है? माध्यम या मंच?”

का स्वामित्व बेबीज़ोन, एक YouTube गेमिंग चैनल जिसके आधे मिलियन से अधिक ग्राहक हैं जो अक्सर मशहूर हस्तियों को वीडियो में डीपफेक करता है गेम्स, इसी तरह की चिंता को प्रतिध्वनित करते हैं: “मुझे लगता है कि डीपफेक अन्य सभी मौजूदा तकनीकों की तरह एक तकनीक है प्रौद्योगिकियाँ। उनका उपयोग अच्छे और बुरे उद्देश्यों के लिए किया जा सकता है।

डीपफेक को बचाने के लिए आंदोलन

पिछले एक या दो वर्षों में, सरकारें और तकनीकी कंपनियां इसके संभावित जोखिमों की जांच कर रही हैं प्रौद्योगिकी, डीपफेक समर्थकों ने इन चिंताओं को दूर करने और प्रौद्योगिकी की जनता को ठीक करने के लिए संघर्ष किया है छवि। रेडिट समुदाय "इस कलंक को समायोजित करने" की कोशिश करने वाले लोग सामने आए हैं, और कुछ स्वतंत्र शोधकर्ता सक्रिय रूप से ऐसे सिस्टम का निर्माण कर रहे हैं जो वायरल होने से पहले डीपफेक को पहचान सकें।

रोमन मोगिलनी, सीईओ और रेफ़ेस के सह-संस्थापक, एक हिट ऐप जो आपको किसी भी जीआईएफ में अपना चेहरा तुरंत बदलने की सुविधा देता है, का कहना है कि उनका स्टार्टअप अब एक डिटेक्शन टूल विकसित कर रहा है जो बता सकता है कि कोई वीडियो रिफेस के साथ बनाया गया था या नहीं तकनीकी। "हमारा मानना है कि हमारे जैसे संश्लेषित मीडिया उपकरणों तक व्यापक पहुंच से मानवता की सहानुभूति बढ़ेगी और क्रिएटिविट, और बेहतरी के लिए प्रौद्योगिकी की धारणा को बदलने में मदद करेगा, ”मोगिलनी ने डिजिटल को बताया रुझान.

लोकप्रिय फेस-स्वैपिंग ऐप जिग्गी के पीछे के स्टार्टअप बोटिका के संस्थापक और सीईओ एरन डेगन का दृष्टिकोण भी कुछ ऐसा ही है डीपफेक के प्रति और उनका मानना है कि जैसे-जैसे वे अधिक मुख्यधारा बनेंगे, “लोग उनके सकारात्मक उपयोग के बारे में अधिक जागरूक होंगे मामले।"

हालाँकि, डीपफेक के संभावित खतरों को देखते हुए, यह संभावना है कि कांग्रेस अंततः इसमें कदम उठाएगी। प्रमुख तकनीकी मंच फ़ेसबुक, ट्विटर और यूट्यूब ने पहले ही भ्रामक मीडिया को चिह्नित करने या हटाने के लिए अपनी नीतियों को अपडेट कर दिया है जो गुमराह करने के लिए बनाई गई हैं। कई राज्य पसंद करते हैं कैलिफोर्निया और न्यूयॉर्क ने ऐसे विधेयक पारित किए हैं जो जानबूझकर भ्रामक डीपफेक बनाने वालों के साथ-साथ उस व्यक्ति की सहमति के बिना जारी किए गए डीपफेक के निर्माताओं को दंडित करेंगे जिनके चेहरे का उपयोग किया गया है।

क्या डीपफेक को विनियमित किया जाना चाहिए?

हालाँकि ये नीतियां पैरोडी सामग्री को बाहर करती हैं, लेकिन विशेषज्ञ, अपरिभाषित कानूनों या प्रौद्योगिकी पर पूर्ण प्रतिबंध के डर से, अब भी उनका मानना है कि कांग्रेस को इससे दूर रहना चाहिए और डीपफेक को स्वाभाविक रूप से चलने देना चाहिए जैसा कि मीडिया का कोई भी नया रूप चलता है के माध्यम से।

इलेक्ट्रॉनिक फ्रंटियर फ़ाउंडेशन में नागरिक स्वतंत्रता निदेशक डेविड ग्रीन कहते हैं, "कांग्रेस द्वारा कोई भी प्रयास गहरे नकली या वास्तव में किसी भी प्रकार के दृश्य संचार को विनियमित करना भाषण का विनियमन होगा और पहले को फंसाएगा संशोधन।

"समाज को यह प्रमाणित करने के लिए नए तंत्र बनाने की आवश्यकता है कि किस चीज़ पर भरोसा किया जा सकता है, और व्यक्तियों और संगठनों पर सिंथेटिक सामग्री के नकारात्मक प्रभावों को कैसे रोका जाए।"

ग्रीन कहते हैं, इन कानूनों को सटीक और अच्छी तरह से परिभाषित और आसानी से समझे जाने वाले शब्दों में होना चाहिए - उस नुकसान को संबोधित करना चाहिए जिसे वे कम करने की कोशिश कर रहे हैं। “हमने अब तक जो देखा है... राज्य स्तर पर नियामक प्रयास अस्पष्ट और व्यापक कानून हैं जिनमें पहले संशोधन के लिए आवश्यक सटीकता नहीं है। उन्हें पैरोडी और राजनीतिक टिप्पणी के लिए आवश्यक अपवाद की आवश्यकता नहीं है।

सेंसिटी के सीईओ जियोर्जियो पैट्रिनी एल्गोरिदम और सॉफ्टवेयर पर प्रतिबंध को "इंटरनेट युग में अर्थहीन" मानते हैं। पैट्रिनी इस पहेली की तुलना मैलवेयर से करती है सुरक्षा और सभी कंप्यूटर वायरस या उनके लेखकों को ख़त्म करना लगभग असंभव है, इसलिए केवल एंटी-मैलवेयर तंत्र में निवेश करना बेहतर है बजाय। उन्होंने कहा, "समाज को यह प्रमाणित करने के लिए नए तंत्र बनाने की जरूरत है कि किस चीज पर भरोसा किया जा सकता है, और व्यक्तियों और संगठनों पर सिंथेटिक सामग्री के नकारात्मक प्रभावों को कैसे रोका जाए।"

टिम वांग ने जॉर्जटाउन यूनिवर्सिटी की रिपोर्ट में लिखा है कि डीपफेक टूल के कमोडिटीकरण के साथ, पता लगाने और फ़िल्टर करने की तकनीक इसके परिणामस्वरूप यह स्वचालित रूप से विकसित होगा और अधिक सटीक हो जाएगा - जिससे किसी भी गंभीर को प्रस्तुत करने की उनकी क्षमता बेअसर हो जाएगी धमकी।

माइक्रोसॉफ्ट ने हाल ही में डीपफेक डिटेक्शन टूल लॉन्च किया हैउदाहरण के लिए, आपको एक आत्मविश्वास स्कोर प्रदान करने के लिए वीडियो का विश्लेषण करता है जो बताता है कि इसकी कितनी संभावना है कि वीडियो को संशोधित किया गया था।

“डीपफेक मीडिया हेरफेर का एक नया रूप है, लेकिन यह पहली बार नहीं है कि हमें इस प्रकार की चुनौती का सामना करना पड़ा है। हम सिंथेटिक मीडिया को संबोधित करने के तरीकों की खोज और निवेश कर रहे हैं, ”यूट्यूब के प्रवक्ता ने कहा।

पीछे शोधकर्ता CtrlShiftLab, एक उन्नत डीपफेक निर्माण सॉफ़्टवेयर जिसका उपयोग Ctrl Shift Face सहित कई YouTubers अब कर रहे हैं जागरूकता बढ़ाने और अधिक व्यापक पहचान बनाने के लिए ओपन-सोर्स परियोजनाओं की दिशा में भी काम कर रहा है सेवाएँ।

“इसे [डीपफेक दुरुपयोग] रोकने का एकमात्र तरीका एक ओपन सोर्स डीपफेक-संबंधित परियोजना स्थापित करना और जनता का ध्यान आकर्षित करना है। CtrlShiftLab के शोधकर्ताओं में से एक, कुनलिन लियू ने डिजिटल ट्रेंड्स को बताया, "सार्वजनिक नेटिज़न्स यह महसूस कर सकते हैं कि डीपफेक मौजूद हैं।"

डिजिटल ट्रेंड्स के कई डीपफेक रचनाकारों ने आशावादी बने रहने और डीपफेक के खिलाफ देशों की प्रतिक्रिया को समय से पहले देखने के लिए बात की। वे इस बात से सहमत हैं कि मीम्स और पैरोडी संस्कृति में डीपफेक की बढ़ती भूमिका इस उभरती हुई तकनीक की ख़राब प्रतिष्ठा को सुधारने में सहायक होगी। और जब तक वीडियो में अस्वीकरण हैं और प्लेटफ़ॉर्म अधिक प्रभावी पहचान परतों में निवेश करते हैं, तब तक डीपफेक यहां बने रहेंगे।

“मुझे लगता है कि डीपफेक की प्रतिष्ठा में काफी सुधार हो रहा है। दो साल पहले, डीपफेक शब्द का मतलब स्वचालित रूप से पोर्न होता था,'' Ctrl Shift Face के निर्माता ने कहा। "अब, अधिकांश लोग इंटरनेट पर प्रसारित होने वाले इन मनोरंजक वीडियो के कारण डीपफेक को जानते हैं।"

संपादकों की सिफ़ारिशें

डिजिटल ट्रेंड्स टेक फॉर चेंज सीईएस 2023 अवार्ड्स
प्रफुल्लित करने वाले प्रोजेक्ट गुच्चीबर्ग में, एक डीपफेक गुच्ची माने क्लासिक उपन्यास पढ़ता है
कैसे कलाकार और कार्यकर्ता डीपफेक को भलाई के लिए एक ताकत के रूप में उपयोग कर रहे हैं
ट्विटर ने 2020 के चुनाव से पहले 'नुकसान पहुंचाने' वाले डीपफेक पर प्रतिबंध लगाने का कदम उठाया है
कैलिफ़ोर्निया राजनीति और पोर्न के लिए डीपफेक पर नकेल कस रहा है