क्यों डीपफेक जल्द ही फ़ोटोशॉप की तरह आम हो जाएगा?

क्या आप जानते हैं कि आप अपने घर से या अपने फोन से डीपफेक वीडियो बना सकते हैं? अपने स्थानीय ऐप स्टोर से आसानी से उपलब्ध ढेरों फेस-स्वैप या डीपफेक ऐप्स में से एक डाउनलोड करें और आप भी चुनाव को प्रभावित कर सकता है.

ठीक है, वास्तव में नहीं, और हम निश्चित रूप से इसका समर्थन नहीं करते हैं। लेकिन चारों ओर प्रचार और चिंता में डीपफेक प्रौद्योगिकी, और इसका वास्तविक दुरुपयोग, सरल सत्य यह है कि यह प्रौद्योगिकी ख़त्म नहीं होने वाली है। वास्तव में, यह फ़ोटोशॉप की तरह ही सामान्य होने जा रहा है, खासकर यदि ऐप डेवलपर इस पर काम कर रहे हों डीपफेक टेक के पास इसके बारे में कहने के लिए कुछ भी नहीं है: हम जल्द ही अपने चेहरों के साथ हाइपर-लक्षित विज्ञापन देख सकते हैं उन्हें।

यूक्रेन स्थित एक स्टार्टअप, RefaceAI के सीईओ, रोमन मोगिलनी ने कहा कि वे 2011 से मशीन लर्निंग के साथ काम कर रहे हैं, और 2014 में डीपफेक तकनीक के आधार पर अपने स्वयं के ऐप बनाने पर जोर दिया। RefaceAI ने पहले ही रिफ्लेक्ट नामक एक फोटो-डीपफेक ऐप जारी कर दिया है, और अपने स्वयं के वीडियो-डीपफेक ऐप के साथ-साथ एक वेब सेवा भी जारी करने की कगार पर है जो डीपफेक वीडियो का पता लगाने में मदद करेगी।

मोगिलनी ने कहा, "हमने शुरू से ही देखा कि इस तकनीक का दुरुपयोग किया जा रहा था।" "हमने सोचा कि हम इसे बेहतर कर सकते हैं।"

RefaceAI ने पहले से ही कुछ फिल्म निर्माण कंपनियों के साथ काम किया है - हालांकि मोगिल्नी यह नहीं बता सका कि कौन सी - स्वैप करने के लिए अपनी तकनीक का उपयोग करेगी बॉडी डबल्स पर अभिनेताओं के चेहरे, अभिनेताओं को सेट पर वापस ले जाने और दृश्यों को फिर से शूट करने की लागत से बहुत कम लागत पर सवाल। मोगिलनी ने कहा, कंपनी इसे डीपफेक के भविष्य के रूप में देखती है। उन्होंने कहा, "हम इसका इस्तेमाल मार्केटिंग के लिए, विज्ञापनों को वैयक्तिकृत करने के लिए, जिफ़ के लिए, सामान्य तौर पर मनोरंजन सामग्री के लिए करना चाहते हैं।"

मीडिया का भविष्य

RefaceAI ऐसी कंपनी नहीं है जो इस अपरिहार्य विपणन वक्र से आगे निकलने की कोशिश कर रही है। कैरिका, दक्षिण कोरिया का एक ऐप, डीपफेक जीआईएफ और वीडियो भी विकसित कर रहा है, जिसमें एक व्यक्ति दोस्तों और परिवार को भेजने के लिए एक लोकप्रिय प्रतिक्रिया जीआईएफ पर अपना चेहरा लगा सकता है। ऐप में पहले से ही पॉप-अप विज्ञापन हैं जो उपयोगकर्ता के चेहरे को विज्ञापन के फोटो या वीडियो में शामिल करते हैं।

कैरिका इंजीनियर जोसेफ जैंग ने डिजिटल ट्रेंड्स को बताया, "हम चाहते हैं कि हमारी कंपनी एक मीडिया कंपनी बने।" डीपफेक बिल्कुल वैसे ही शुरू हो रहे हैं जैसे वे शुरू कर रहे हैं। “मुझे लगता है कि मीडिया कंपनियां इस सुविधा को अपनाना शुरू कर देंगी। यह आपके पास एक विकल्प बन जाएगा, बिल्कुल एक की तरह फ़िल्टर. यह लोगों के लिए बिल्कुल सामान्य हो जाएगा।”

जैंग और मोगिलनी दोनों ने फोटोशॉप के प्रसार को मॉडल के रूप में इस्तेमाल किया, जहां वे डीपफेक को जाते हुए देखते हैं: इतना सामान्य कि यह अचूक हो, अगर फिर भी थोड़ा विवादास्पद हो। और उन दोनों के लिए, डीपफेक में लिपटी राजनीतिक और नैतिक समस्याएं वास्तव में बस चल रही हैं।

डीपफेक-डिटेक्टिंग प्लेटफॉर्म एम्बर वीडियो के सीईओ शमीर अल्लीभाई ने डिजिटल ट्रेंड्स को बताया कि उनका प्रमुख विचार यह था कि डीपफेक तकनीक, अधिकांश अन्य प्रकार की तकनीक की तरह, नैतिक है।

“यह कहने जैसा होगा कि माइक्रोसॉफ्ट वर्ड अनैतिक है, बुरा है क्योंकि संभावित आतंकवादी इसका इस्तेमाल करेंगे हिंसक, चरमपंथी विचारधारा का समर्थन करें, जो दूसरों को हिंसक चरमपंथी विचारधारा का समर्थन करने के लिए प्रेरित करेगा।'' कहा। "मैं इस तकनीक को बिल्कुल उसी दृष्टि से देखता हूं।"

एम्बर वीडियो एक ऐसा प्लेटफ़ॉर्म है जो "धोखाधड़ी, प्रतिष्ठा हानि और हितधारक अविश्वास को रोकने" के लिए डीपफेक से निपटने के लिए अपनी सेवाओं का विज्ञापन करता है। अल्लीभाई उन्होंने कहा कि उन्हें नहीं पता कि क्या वह सिर्फ इसलिए कुछ खरीदने के लिए तैयार थे क्योंकि उस पर उनका चेहरा था, लेकिन वह इस बात से सहमत थे कि, आखिरकार, प्रौद्योगिकी होगी व्यापक.

"यह समाज पर एक दर्पण है," उन्होंने कहा। “आप इसे ट्विटर प्लेटफ़ॉर्म जैसी तकनीकों में देखते हैं। आप मानवता का सर्वोत्तम और हममें से सबसे बुरा देखते हैं। डीपफेक तकनीक भी समाज को आईना दिखाएगी। ऐसे लोग हैं जो इसका उपयोग हल्के-फुल्के व्यंग्य के लिए करेंगे और सत्तावादी शासन पर मज़ाक उड़ाएंगे। लेकिन हम अराजकता फैलाने की भी कोशिश करेंगे।''

डीपफेक का हथियारीकरण

सबसे बड़ा डर संभावित दुरुपयोग और डीपफेक का हथियारीकरण बना हुआ है। जैसे-जैसे वे अधिक सामान्य होते जा रहे हैं, हम उन्हें न केवल व्यापक पैमाने पर दुष्प्रचार अभियानों के लिए, बल्कि व्यावहारिक चुटकुलों या हाई स्कूल में बदमाशी के लिए भी तैनात होते हुए देख सकते हैं। यदि प्रौद्योगिकी पर्याप्त रूप से सुलभ है, तो कोई भी इसका उपयोग कर सकता है।

Carica और RefaceAI दोनों ने कहा कि वे संभावित दुरुपयोग को कम करने के लिए कदम उठा रहे हैं - RefaceAI अपनी डीपफेक डिटेक्शन वेबसर्विस के साथ, और Carica कंटेंट मॉडरेटर के साथ। जैंग ने कहा, पूरी कैरिका कंपनी अभी केवल नौ लोगों की है, और वे सामग्री मॉडरेशन कर्तव्यों का आदान-प्रदान करते हैं।

"यह वास्तव में पहला सवाल था जो हमने खुद से पूछा," RefaceAI के मोगिलनी ने कहा। “हम वर्षों से यूक्रेन में राजनीतिक घोटालों के संदर्भ में इससे निपट रहे हैं। हम समझते हैं कि हमारी तकनीक का दुरुपयोग किया जा सकता है। यहां तक ​​कि फ़ोटोशॉप का उपयोग धमकाने के लिए भी किया जा सकता है और किया गया है। लेकिन दूसरी ओर, हम इसके लिए एक मारक प्रदान कर रहे हैं। हमारे ऐप पर उपयोगकर्ताओं ने यौन सामग्री अपलोड की और हमने उन उपयोगकर्ताओं पर तुरंत प्रतिबंध लगा दिया।

कैरिका एक छोटा ऐप है जिसके साथ उन्हें अभी काम करना है। लेकिन कुल मिलाकर, जंग चिंतित नहीं था।

"यह सभी नई तकनीक के साथ होता है," जंग ने कहा। "सबसे पहले, यह दुरुपयोग से प्रेरित है, लेकिन फिर उस चरण के बाद, यह सभी के लिए उपलब्ध हो जाता है और लोग इसका उपयोग सामान्य चीजों के लिए करते हैं।"

संपादकों की सिफ़ारिशें

• सुरक्षा रोबोट आपके निकट किसी स्कूल में आ सकते हैं
• अमेज़ॅन उत्पाद समीक्षाओं को सारांशित करने के लिए एआई तैनात करता है
• जॉब विज्ञापन से पता चलता है कि अमेज़न ने सर्च के लिए 'पीढ़ी में एक बार' बदलाव की योजना बनाई है
• एनवीडिया का $200 जेटसन ओरिन नैनो मिनीकंप्यूटर पिछले संस्करण की तुलना में 80 गुना तेज है
• Google स्मार्ट कैनवास को ऐप्स के बीच गहरा एकीकरण मिलता है