यह ए.आई. ऑनलाइन टिप्पणियाँ पढ़ने के तरीके को हिला सकता है

आप इंटरनेट जैसी समस्या का समाधान कैसे करते हैं? यह एक ऐसा प्रश्न है जिसका, स्पष्ट रूप से, एक चौथाई सदी पहले भी कोई मतलब नहीं था। इंटरनेट, सूचना और लोकतांत्रिक मूल्यों दोनों को पृथ्वी के हर दूर-दराज के कोने तक फैलाने की अपनी क्षमता के साथ, था उत्तर।

इंटरनेट पर इलाज मांगना कैंसर के इलाज के लिए इलाज मांगने जैसा था। यहां 2020 में तस्वीर कुछ ज्यादा ही उलझी हुई है। हाँ, इंटरनेट हर तरह की चीज़ों के लिए आश्चर्यजनक रूप से शानदार है। लेकिन इससे समस्याएँ भी उत्पन्न होती हैं फर्जी खबरों का प्रसार खैर, वह डिजिटल सेसपिट जो अब तक का हर YouTube टिप्पणी अनुभाग है। दूसरे तरीके से कहें तो, इंटरनेट हर तरह से जहरीला हो सकता है। हम इसे कैसे साफ़ करें?

यहां कोई सरल उत्तर नहीं हैं. क्या एल्गोरिथम या मानव-चालित सेंसरशिप इसका उत्तर है? क्या हमें विवादास्पद विषयों पर सभी टिप्पणी अनुभाग बंद कर देने चाहिए? क्या किसी निजी स्वामित्व वाले मंच को वास्तव में हर किसी को आवाज देने के लिए बाध्य महसूस करने की आवश्यकता है? जनता की भलाई के लिए सीमांत विचारों को अवरुद्ध करना हर किसी को आवाज देने के इंटरनेट के सपने से कैसे मेल खाता है?

कार्नेगी मेलन विश्वविद्यालय के शोधकर्ताओं ने एक दिलचस्प नया उपकरण बनाया है, उनका मानना ​​है कि इससे मदद मिल सकती है। यह एक कृत्रिम बुद्धिमत्ता एल्गोरिथ्म है जो नकारात्मक भाषण को अवरुद्ध करके नहीं, बल्कि इसे खोजने में आसान बनाने के लिए "सहायता भाषण" को उजागर या प्रवर्धित करके काम करता है। इस प्रक्रिया में उन्हें उम्मीद है कि यह इंटरनेट को बेजुबानों को सशक्त बनाने के लिए बेहतर आवाज बनाने की साइबरटॉपियन महत्वाकांक्षा में मदद कर सकता है।

बेजुबानों के लिए एक आवाज़

ए.आई. कार्नेगी मेलन की टीम द्वारा तैयार किया गया भाषा प्रौद्योगिकी संस्थान, YouTube टिप्पणियों की जांच करता है और उन टिप्पणियों को हाइलाइट करता है जो इस उदाहरण में, रोहिंग्या समुदाय जैसे वंचित अल्पसंख्यकों का बचाव या सहानुभूति करती हैं। मुस्लिम रोहिंग्या लोग अक्टूबर 2016 से म्यांमार सरकार द्वारा बड़े पैमाने पर चल रहे उत्पीड़न का शिकार हो रहे हैं। नरसंहार संकट ने दस लाख से अधिक रोहिंग्याओं को पड़ोसी देशों में भागने के लिए मजबूर कर दिया है। यह धार्मिक उत्पीड़न और जातीय सफाए से जुड़ी एक भयावह दुर्दशा है - लेकिन स्थानीय सोशल मीडिया पर दिखाई गई कई टिप्पणियों से आपको इसका पता नहीं चलेगा; मुद्दे के दूसरे पक्ष पर टिप्पणियों की भारी संख्या।

"हमने मताधिकार से वंचित अल्पसंख्यक - इस मामले में रोहिंग्या - के समर्थन में स्वचालित रूप से उनका समर्थन करने वाली वेब सामग्री का पता लगाने के लिए एक रूपरेखा विकसित की है।" आशिक खुदाबख्शकार्नेगी मेलन में कंप्यूटर विज्ञान विभाग में एक परियोजना वैज्ञानिक ने डिजिटल ट्रेंड्स को बताया। “हमने यूट्यूब पर ध्यान केंद्रित किया, जो दक्षिण एशिया में बेहद लोकप्रिय सोशल मीडिया प्लेटफॉर्म है। हमारे विश्लेषणों से पता चला कि रोहिंग्याओं के बारे में बड़ी संख्या में टिप्पणियाँ उनके लिए अपमानजनक थीं। हमने उन टिप्पणियों का पता लगाने के लिए एक स्वचालित विधि विकसित की है जो उनके उद्देश्य की वकालत करती हैं, अन्यथा बड़ी संख्या में कठोर, नकारात्मक टिप्पणियों के कारण वे दब जातीं।''

“सामान्य रूपरेखा के नजरिए से, हमारा काम पारंपरिक नफरत भरे भाषण का पता लगाने के काम से अलग है जहां मुख्य फोकस है नकारात्मक सामग्री को अवरुद्ध करने पर है, [हालांकि यह] एक सक्रिय और अत्यधिक महत्वपूर्ण शोध क्षेत्र है," खुदाबख्श जारी रखा. "इसके विपरीत, सहायक टिप्पणियों का पता लगाने का हमारा काम - जिसे हम सहायता भाषण कहते हैं - सकारात्मकता को बढ़ाकर ऑनलाइन अनुभव को बेहतर बनाने की एक नई दिशा को चिह्नित करता है।"

उनके ए.आई. को प्रशिक्षित करने के लिए फ़िल्टरिंग प्रणाली के माध्यम से, शोधकर्ताओं ने एक चौथाई मिलियन से अधिक YouTube टिप्पणियाँ एकत्र कीं। अत्याधुनिक भाषाई मॉडलिंग तकनीक का उपयोग करते हुए, उन्होंने एक एल्गोरिदम बनाया जो रोहिंग्या समुदाय के पक्ष में टिप्पणियों को तेजी से उजागर करने के लिए इन टिप्पणियों को परख सकता है। जैसा कि आप उम्मीद कर सकते हैं, उपयोगकर्ता टिप्पणियों का स्वचालित अर्थ विश्लेषण आसान नहीं है। अकेले भारतीय उपमहाद्वीप में 22 प्रमुख भाषाएँ हैं। जब भाषा का मूल्यांकन करने की बात आती है तो अक्सर वर्तनी की गलतियाँ और गैर-मानक वर्तनी भिन्नताएँ भी होती हैं।

सकारात्मक निशान

बहरहाल, ए.आई. टीम द्वारा विकसित सकारात्मक टिप्पणियों की दृश्यता को काफी हद तक बढ़ाने में सक्षम थे। इससे भी महत्वपूर्ण बात यह है कि यह किसी मानव मॉडरेटर की तुलना में कहीं अधिक तेजी से ऐसा करने में सक्षम था, जो वास्तविक समय में बड़ी मात्रा में टिप्पणियों को मैन्युअल रूप से देखने और विशेष रूप से पिन करने में असमर्थ होंगे टिप्पणियाँ। यह उन परिदृश्यों में विशेष रूप से महत्वपूर्ण हो सकता है जिसमें एक पक्ष के पास एक प्रमुख भाषा में सीमित कौशल, सीमित पहुंच हो सकती है इंटरनेट, या उच्च प्राथमिकता वाले मुद्दे (पढ़ें: उत्पीड़न से बचना) जिन्हें ऑनलाइन भाग लेने पर प्राथमिकता दी जा सकती है बात चिट।

खुदाबख्श ने आगे कहा, "हम सभी ने एक ऐसा दोस्त होने का अनुभव किया है जो दूसरे दोस्त की अनुपस्थिति में उसके लिए खड़ा होता है।" “अब इस पर वैश्विक स्तर पर विचार करें। यदि आपके बारे में वैश्विक चर्चा में आप मौजूद नहीं हैं और आप अपना बचाव नहीं कर सकते तो क्या होगा? ए.आई. कैसे हो सकता है? इस स्थिति में मदद करें? हम इसे 21वीं सदी की समस्या कहते हैं: सर्वव्यापी इंटरनेट के युग में प्रवासी संकट जहां शरणार्थियों की आवाज़ें बहुत कम और बहुत कम हैं। आगे बढ़ते हुए, हमें लगता है कि भू-राजनीतिक मुद्दे, जलवायु और संसाधन-संचालित कारण नए प्रवासी संकट पैदा कर सकते हैं और ऑनलाइन दुनिया में जोखिम वाले समुदायों की रक्षा के लिए हमारा काम अत्यधिक महत्वपूर्ण है।

लेकिन क्या केवल कुछ अल्पसंख्यक आवाजों को उजागर करना पर्याप्त है, या यह केवल हर कुछ वर्षों में एक समाचार आउटलेट लॉन्च करने की अवधारणा का एक एल्गोरिथम संस्करण है जो केवल अच्छी खबरें बताता है? शायद कुछ मायनों में, लेकिन यह व्यापक समस्याओं के समाधान के तरीकों की पेशकश किए बिना केवल सांकेतिक टिप्पणियों को उजागर करने से कहीं आगे जाता है। इसे ध्यान में रखते हुए, शोधकर्ताओं ने पहले से ही उन तरीकों को देखने के लिए परियोजना का विस्तार किया है जिनमें ए.आई. इसका उपयोग सकारात्मक सामग्री को अन्य भिन्न, लेकिन फिर भी उच्च सामाजिक प्रभाव में बढ़ाने के लिए किया जा सकता है परिदृश्य. इसका एक उदाहरण परमाणु विरोधियों के बीच बढ़े हुए राजनीतिक तनाव के दौरान ऑनलाइन चर्चा है। यह कार्य, जिसे टीम जून में आर्टिफिशियल इंटेलिजेंस पर यूरोपीय सम्मेलन (ईसीएआई 2020) में प्रस्तुत करेगी, का उपयोग शत्रुता फैलाने वाली सामग्री का पता लगाने और प्रस्तुत करने में मदद के लिए किया जा सकता है। इसी तरह की तकनीक कई अन्य परिदृश्यों के लिए बनाई जा सकती है - प्रत्येक के लिए उपयुक्त सिलाई के साथ।

ये इसके लिए स्वीकृति दरें हैं #ECAI2020 योगदान:
- पूर्ण-पत्र: 26.8%
- हाइलाइट पेपर: 45%

समीक्षा प्रक्रिया में आपके द्वारा किए गए प्रयास के लिए बहुत-बहुत धन्यवाद!

- ECAI2020 (@ECAI2020) 15 जनवरी 2020

खुदाबख्श ने कहा, "किसी समुदाय की मदद कैसे की जा सकती है इसका मूल आधार संबंधित समुदाय पर निर्भर करता है।" “यहां तक ​​कि अलग-अलग शरणार्थी संकटों के लिए भी मदद की अलग-अलग धारणाओं की आवश्यकता होगी। उदाहरण के लिए, ऐसे संकट जहां संक्रामक रोग फैलना एक प्रमुख मुद्दा है, चिकित्सा सहायता प्रदान करने से काफी मदद मिल सकती है। कुछ आर्थिक रूप से वंचित समूह के लिए, समुदाय के लोगों की सफलता की कहानियों को उजागर करना एक प्रेरक कारक हो सकता है। इसलिए, प्रत्येक समुदाय को सकारात्मक सामग्री को स्वचालित रूप से खोजने के लिए अलग-अलग सूक्ष्म सहायता भाषण वर्गीकरणकर्ताओं की आवश्यकता होगी। हमारा काम इसके लिए एक खाका प्रदान करता है।

कोई आसान समाधान नहीं

यह काम जितना आकर्षक है, जब ऑनलाइन भाषण की समस्या को हल करने की बात आती है तो इसका कोई आसान समाधान नहीं है। चुनौती का एक हिस्सा यह है कि इंटरनेट वर्तमान में मौजूद तेज़ आवाज़ों को पुरस्कृत करता है। उदाहरण के लिए, Google का पेजरैंक एल्गोरिदम, किसी पेज के लिंक की संख्या और गुणवत्ता की गणना करके वेब पेजों को उनके कथित महत्व के आधार पर रैंक करता है। ट्विटर पर ट्रेंडिंग टॉपिक इस बात से तय होते हैं कि सबसे बड़ी संख्या में लोग किस बारे में ट्वीट कर रहे हैं। टिप्पणियाँ अनुभाग अक्सर उन विचारों को उजागर करते हैं जो सबसे तीखी प्रतिक्रियाएँ भड़काते हैं।

इंटरनेट पर अकल्पनीय रूप से बड़ी संख्या में आवाजें असहमति की आवाजों को दबा सकती हैं; अक्सर उन आवाज़ों को हाशिए पर धकेल दिया जाता है, जिनके पास कम से कम सिद्धांत रूप में, किसी अन्य के समान ही मंच होता है।

इसे बदलने के लिए एक से अधिक शानदार YouTube टिप्पणियाँ-परिमार्जन एल्गोरिदम की आवश्यकता होगी। हालाँकि, यह कोई बुरी शुरुआत नहीं है।

संपादकों की सिफ़ारिशें

• अंतिम स्पर्श: कैसे वैज्ञानिक रोबोटों को मानव जैसी स्पर्श संवेदना दे रहे हैं
• मज़ेदार फ़ॉर्मूला: क्यों मशीन से उत्पन्न हास्य ए.आई. की पवित्र कब्र है?
• ए.आई. आमतौर पर कुछ भी नहीं भूलता, लेकिन फेसबुक का नया सिस्टम भूल जाता है। उसकी वजह यहाँ है
• भावना-संवेदन ए.आई. यहाँ है, और यह आपके अगले नौकरी साक्षात्कार में हो सकता है
• भाषा सुपरमॉडल: कैसे GPT-3 चुपचाप A.I. में प्रवेश कर रहा है क्रांति