क्लियरव्यू एआई फेशियल-रिकग्निशन ऐप पीछा करने वाले पीड़ितों के लिए एक बुरा सपना है

सिलिकॉन वैली के अहंकार का नवीनतम उदाहरण चेहरे की पहचान करने वाला ऐप है क्लियरव्यू एआई. छोटे स्टार्टअप का ऐप इतना शक्तिशाली है कि कोई भी व्यक्ति सड़क पर आपके पास चल सकता है, आपकी फोटो खींच सकता है और तुरंत आपका नाम, पता और फोन नंबर ढूंढ सकता है। न्यूयॉर्क टाइम्स की एक रिपोर्ट.

यह तकनीक संभवतः दो प्रकार के लोगों के लिए एक अच्छा विचार लगती है: कानून प्रवर्तन और रेंगता है. अधिवक्ताओं को चिंता है कि इस प्रकार की चेहरे-पहचान तकनीक पीछा करने वालों, ऐसे लोगों के लिए वरदान साबित हो सकती है घरेलू दुर्व्यवहार का इतिहास, और कोई भी व्यक्ति जो नापाक इरादे से आपके बारे में सब कुछ जानना चाहेगा उद्देश्य।

डिजिटल ट्रेंड्स को दिए एक बयान में, यू.के. स्थित प्रोप्राइवेसी के गोपनीयता वकील जो ओ'रेली ने कहा, "जैसे ही इस ऐप की खबर फैली, हर जगह महिलाओं ने आह भरी।" "एक बार फिर, ऑनलाइन और वास्तविक जीवन में महिलाओं की सुरक्षा तकनीकी स्टार्टअप्स की और अधिक आक्रामक तकनीक बनाने और मुद्रीकृत करने की इच्छा के बाद दूसरे स्थान पर आ गई है।"

क्लीयरव्यू, कुछ हद तक, लोकप्रिय सोशल मीडिया साइटों से सार्वजनिक रूप से उपलब्ध डेटा को स्क्रैप करके काम करता है फेसबुक, ट्विटर, यूट्यूब और वेनमो, अन्य के बीच। फेसबुक कंपनी के प्रवक्ता ने डिजिटल ट्रेंड्स को बताया कि "स्क्रैपिंग फेसबुक जानकारी या उसे किसी निर्देशिका में जोड़ना हमारी नीतियों द्वारा निषिद्ध है, इसलिए हम दावों की समीक्षा कर रहे हैं इस कंपनी के बारे में और यदि हम पाते हैं कि वे हमारे नियमों का उल्लंघन कर रहे हैं तो हम उचित कार्रवाई करेंगे।'' ट्विटर भी कहता है यह निषेध करता है इसके डेटा का यह उपयोग।

दुर्व्यवहार करने वालों के लिए एक नया उपकरण

ऑनलाइन महिलाओं के लिए पीछा करना लंबे समय से एक समस्या रही है, और यह बिना किसी उपकरण के है जो किसी को केवल उनके चेहरे के आधार पर ट्रैक कर सकता है। अभी के लिए, क्लियरव्यू का दावा है कि वह केवल कानून प्रवर्तन को अपनी सेवाएं बेच रहा है, जिसने प्रौद्योगिकी की वास्तव में शानदार समीक्षा दी है। ओ'रेली ने कहा, "हालांकि, वे इस तथ्य के बारे में अजीब तरह से चुप हैं कि, गलत हाथों में, इस सॉफ़्टवेयर का उपयोग लगभग किसी को भी परेशान करने और पीछा करने के लिए किया जा सकता है।" "यदि सॉफ़्टवेयर को जनता के लिए उपलब्ध कराया गया तो इसे रोकना असंभव होगा - ऐसा परिदृश्य जिसे क्लियरव्यू निवेशकों ने स्वीकार किया है, संभव है।"

"कोई भी तकनीक जिसे आप विकसित करते हैं जिसका उपभोग इंसानों द्वारा किया जाएगा, आपको खामियों के बारे में सोचना होगा," क्रिस्टल जस्टिस, मुख्य विपणन और विकास अधिकारी ने कहा राष्ट्रीय घरेलू हिंसा हॉटलाइन . "दुर्व्यवहार करने वाले हमेशा अपने टूलबॉक्स में अगले टूल की तलाश में रहते हैं।"

हॉटलाइन ने 2015 में अपनी विशिष्ट श्रेणी के रूप में डिजिटल दुरुपयोग पर रिपोर्टिंग शुरू की, और तब से संख्या में भारी वृद्धि देखी गई है, खासकर युवा लोगों के बीच। जस्टिस ने डिजिटल ट्रेंड्स को बताया कि हॉटलाइन को 2018 में 371,000 संपर्क प्राप्त हुए और उनमें से 15 प्रतिशत डिजिटल दुरुपयोग की शिकायतें थीं। हॉटलाइन के नंबरों के अनुसार, राष्ट्रीय स्तर पर औसतन चार में से एक महिला और सात में से एक पुरुष घरेलू हिंसा से बचे हैं।

न्यायमूर्ति ने कहा, "बचे हुए लोग हमारी आबादी का एक बड़ा हिस्सा हैं।" "तकनीकी कंपनियों को अपने ऐप्स डिज़ाइन करते समय बचे हुए अनुभव पर विचार करना चाहिए।"

एक सतत समस्या

यह इस दिन और युग में बहुत अधिक विघटनकारी तकनीक के साथ एक निरंतर पैटर्न है। जब उबर 2009 में लॉन्च हुआ, तो यह तकनीक बहुत अच्छी लग रही थी। अब हम अपने-अपने शहरों में टैक्सी उद्योगों या अक्षम सार्वजनिक परिवहन के गुलाम नहीं थे।

बेशक, उबेर का मॉडल सीधे तौर पर उस पारंपरिक ज्ञान के विपरीत है जो हमें बच्चों के रूप में सिखाया गया था: अजनबियों के साथ कारों में न बैठें। दस साल और कई हजार मुकदमेयौन उत्पीड़न पर बाद में, ऐसा प्रतीत हुआ कि इसका एक कारण पारंपरिक ज्ञान था। बहुत से लोगों के लिए, किसी अजनबी की कार में बैठना सुरक्षित नहीं है, भले ही आप वहां रहने के लिए भुगतान कर रहे हों।

लेकिन सुरक्षा के बारे में सोचने का यह तत्व, या अपनी शारीरिक सुरक्षा के लिए लगातार चिंतित रहते हुए दुनिया भर में घूमना, जैसा कि कई लोग करते हैं ऐसा लगता है कि उबर जैसी तकनीकी कंपनियों की स्थापना करने वाले (ज्यादातर श्वेत) पुरुषों के दिमाग में महिलाओं और अल्पसंख्यक लिंग के लोगों के बारे में यह बात नहीं रही होगी, पसंद ट्विटर, कई अन्य लोगों की तरह। वे बस कुछ अच्छा बनाना चाहते थे जो दुनिया को बदल दे। बहुत देर हो जाने तक यह विचार उनके मन में नहीं आया कि इसका उपयोग नापाक उद्देश्यों के लिए किया जाएगा।

घरेलू हिंसा को समाप्त करने के लिए राष्ट्रीय नेटवर्क के वरिष्ठ प्रौद्योगिकी सुरक्षा विशेषज्ञ राचेल गिब्सन ने कहा, गोपनीयता और सुरक्षा को शुरू से ही एक ऐप में शामिल करने की आवश्यकता है। गिब्सन ने डिजिटल ट्रेंड्स को बताया, "यह एक बात है कि कोई चीज़ अच्छे इरादे से बनाई जाती है, लेकिन हम जानते हैं कि तकनीक का दुरुपयोग किया जा सकता है।" “हम इसे नई तकनीक, पुराने व्यवहार के रूप में सोचते हैं। [उबर से पहले] अभी भी टैक्सियों में लोगों के साथ बलात्कार हो रहा था, लेकिन हमें यह सोचना होगा कि इन दिनों प्रौद्योगिकी पीछा करने और हमले जैसे पुराने व्यवहारों को कैसे सुविधाजनक बना सकती है।"

गिब्सन ने कहा, क्लीयरव्यू जैसा कुछ, जबकि कानून प्रवर्तन के लिए इसका उपयोग होता है, निश्चित रूप से यह सवाल उठता है कि यह आम जनता के लिए कैसे या क्यों उपयोगी होगा। उन्होंने कहा, "सार्वजनिक उपभोग के लिए इन चीज़ों को बनाना बचे हुए लोगों को जोखिम में डालता है, और हमें अनपेक्षित परिणामों के बारे में सोचने की ज़रूरत है।"

न्यायमूर्ति ने कहा कि वह सार्वजनिक सुरक्षा में प्रौद्योगिकी की भूमिका के बारे में बातचीत को बदलती हुई देखती हैं। उन्होंने कहा, ''मीटू के बाद से बहस बदल गई है।'' “और यह समय के बारे में भी है। यह कोई नया मुद्दा नहीं है. हम आवश्यक रूप से घरेलू हिंसा में वृद्धि नहीं देख रहे हैं, हम देख रहे हैं कि अंततः इस पर चर्चा हो रही है। और अब हम उन जटिल तत्वों को इसमें शामिल कर सकते हैं कि कैसे तकनीक इसका हिस्सा है।"

गिब्सन ने यह भी कहा कि उसने कई "प्रमुख तकनीकी कंपनियों" के साथ बातचीत की है (हालांकि वह ऐसा नहीं करेगी निर्दिष्ट करें कि कौन सा), और उन्होंने कहा कि वे अब गोपनीयता के लिए निर्माण के प्रति "सावधान रहने की कोशिश" कर रहे थे सुरक्षा।

क्लियरव्यू ने डिजिटल ट्रेंड्स को एक संक्षिप्त बयान दिया, जिसमें कहा गया कि वे "इन चिंताओं को गंभीरता से लेते हैं, और व्यावसायिक रिलीज की कोई योजना नहीं है।" में एक ब्लॉग पोस्टकंपनी ने इस बात पर जोर दिया कि उनका उत्पाद जनता के लिए उपलब्ध नहीं है, और इसे "केवल कानून प्रवर्तन एजेंसियों और चुनिंदा सुरक्षा पेशेवरों के लिए" उपलब्ध कराया जाएगा।

यदि आपको लगता है कि आप या आपका कोई परिचित अंतरंग साथी के साथ दुर्व्यवहार से पीड़ित है, तो राष्ट्रीय घरेलू हिंसा हॉटलाइन 24/7 1−800−799−7233 पर संपर्क करें।

संपादकों की सिफ़ारिशें

• अगले महीने विंबलडन में एआई-संचालित कमेंट्री आ रही है
• रिपोर्ट में दावा किया गया है कि एलोन मस्क ट्विटर पर जेनरेटिव-एआई प्रोजेक्ट स्थापित कर रहे हैं
• Google स्मार्ट कैनवास को ऐप्स के बीच गहरा एकीकरण मिलता है
• एनवीडिया अपने एआई सुपरपॉड प्लेटफॉर्म को $90K प्रति माह पर किराए पर दे रहा है
• पोर्टलैंड ने चेहरे की पहचान तकनीक के निजी और सार्वजनिक उपयोग पर प्रतिबंध लगा दिया है