एआई कभी दुनिया पर राज क्यों नहीं करेगा?

इसे स्काईनेट परिकल्पना कहें, आर्टिफिशियल जनरल इंटेलिजेंस, या सिंगुलैरिटी का आगमन - वर्षों से, एआई विशेषज्ञ और गैर-विशेषज्ञों ने समान रूप से इस विचार को नापसंद किया है (और, एक छोटे समूह के लिए, जश्न मनाया है) कि कृत्रिम बुद्धिमत्ता एक दिन अधिक स्मार्ट बन सकती है इंसानों की तुलना में.

सिद्धांत के अनुसार, एआई में प्रगति - विशेष रूप से मशीन लर्निंग प्रकार की जो नई चीजें सीखने में सक्षम है जानकारी और तदनुसार उसके कोड को फिर से लिखना - अंततः जैविक के वेटवेयर को पकड़ लेगा दिमाग। घटनाओं की इस व्याख्या में, प्रत्येक एआई आगे बढ़ता है ख़तरा-आईबीएम मशीनों को जीतना विशाल AI भाषा मॉडल GPT-3 मानवता को अस्तित्वगत खतरे के एक कदम करीब ले जा रहा है। हम वस्तुतः अपना निर्माण कर रहे हैं जल्द ही भावुक होने वाले उत्तराधिकारी.

अनुशंसित वीडियो

सिवाय इसके कि ऐसा कभी नहीं होगा. कम से कम, नई किताब के लेखकों के अनुसार मशीनें दुनिया पर कभी राज क्यों नहीं करेंगी: डर के बिना कृत्रिम बुद्धिमत्ता.

सह-लेखक बफ़ेलो विश्वविद्यालय में दर्शनशास्त्र के प्रोफेसर हैं बैरी स्मिथ और जॉबस्ट लैंडग्रेबेजर्मन एआई कंपनी कॉग्नोटेक के संस्थापक का तर्क है कि मानव बुद्धि को "एक अमर तानाशाह" किसी भी समय या कभी भी मात नहीं देगा। उन्होंने बताया

डिजिटल रुझान उनके कारण क्यों.

छवि एआई को दर्शाती है, जिसमें न्यूरॉन्स ह्यूमनॉइड सिर से बाहर निकलते हैं

डिजिटल ट्रेंड्स (डीटी): यह विषय आपके रडार पर कैसे आया?

जॉबस्ट लैंडग्रेबे (जेएल): मैं प्रशिक्षण से एक चिकित्सक और बायोकेमिस्ट हूं। जब मैंने अपना करियर शुरू किया, तो मैंने ऐसे प्रयोग किए जिनसे बहुत सारा डेटा उत्पन्न हुआ। मैंने इन आंकड़ों की व्याख्या करने में सक्षम होने के लिए गणित का अध्ययन करना शुरू किया, और देखा कि गणित का उपयोग करके जैविक प्रणालियों का मॉडल बनाना कितना कठिन है। गणितीय तरीकों और जैविक डेटा के बीच हमेशा एक विसंगति थी।

अपने तीसवें दशक के मध्य में, मैंने अकादमिक क्षेत्र छोड़ दिया और कृत्रिम बुद्धिमत्ता सॉफ्टवेयर सिस्टम में काम करने वाला एक व्यवसाय सलाहकार और उद्यमी बन गया। मैं मनुष्य क्या कर सकता है इसकी नकल करने के लिए एआई सिस्टम बनाने की कोशिश कर रहा था। मुझे एहसास हुआ कि मैं उसी समस्या से जूझ रहा हूं जो वर्षों पहले जीव विज्ञान में थी।

ग्राहकों ने मुझसे कहा, 'आप चैटबॉट क्यों नहीं बनाते?' मैंने कहा, 'क्योंकि वे काम नहीं करेंगे; हम इस प्रकार की प्रणाली को ठीक से मॉडल नहीं बना सकते।' अंततः यही मुझे यह पुस्तक लिखने के लिए प्रेरित किया।

प्रोफेसर बैरी स्मिथ (बीएस): मैंने सोचा कि यह एक बहुत ही दिलचस्प समस्या थी. मुझे पहले से ही एआई के साथ इसी तरह की समस्याओं का आभास था, लेकिन मैंने कभी उनके बारे में सोचा नहीं था। प्रारंभ में, हमने एक पेपर लिखा जिसका नाम था 'कृत्रिम बुद्धिमत्ता को फिर से सार्थक बनाना.' (यह ट्रम्प युग में था।) यह इस बारे में था कि तंत्रिका नेटवर्क भाषा मॉडलिंग के लिए क्यों विफल हो जाते हैं। फिर हमने इस विषय पर अधिक गहराई से शोध करते हुए पेपर को एक पुस्तक के रूप में विस्तारित करने का निर्णय लिया।

डीटी: आपकी पुस्तक इस बारे में संदेह व्यक्त करती है कि तंत्रिका नेटवर्क, जो आधुनिक गहन शिक्षा के लिए महत्वपूर्ण हैं, मानव मस्तिष्क का अनुकरण करते हैं। जैविक मस्तिष्क कैसे काम करता है इसके सटीक मॉडल के बजाय वे अनुमान हैं। लेकिन क्या आप इस मूल आधार को स्वीकार करते हैं कि यदि हम मस्तिष्क को बारीक रूप में समझ सकें तो यह संभव है पर्याप्त विवरण, इसे कृत्रिम रूप से दोहराया जा सकता है - और यह बुद्धिमत्ता को जन्म देगा या भावना?

जेएल: 'न्यूरल नेटवर्क' नाम पूरी तरह से गलत नाम है। हमारे पास अब जो तंत्रिका नेटवर्क हैं, यहां तक कि सबसे परिष्कृत भी, उनका मस्तिष्क के काम करने के तरीके से कोई लेना-देना नहीं है। यह विचार कि मस्तिष्क तंत्रिका नेटवर्क के निर्माण के तरीके से परस्पर जुड़े हुए नोड्स का एक समूह है, पूरी तरह से भोला है।

यदि आप सबसे आदिम जीवाणु कोशिका को देखें, तो हम अभी भी यह नहीं समझ पाते हैं कि यह कैसे काम करती है। हम इसके कुछ पहलुओं को समझते हैं, लेकिन हमारे पास इसका कोई मॉडल नहीं है कि यह कैसे काम करता है - एक न्यूरॉन की तो बात ही छोड़ दें, जो कहीं अधिक जटिल है, या अरबों न्यूरॉन्स आपस में जुड़े हुए हैं। मेरा मानना है कि यह वैज्ञानिक रूप से है असंभव यह समझने के लिए कि मस्तिष्क कैसे काम करता है। हम केवल कुछ पहलुओं को समझ सकते हैं और उन पहलुओं से निपट सकते हैं। मस्तिष्क कैसे काम करता है, इसकी पूरी समझ हमारे पास नहीं है और हमें नहीं मिलेगी।

यदि हमें इस बात की पूर्ण समझ हो कि मस्तिष्क का प्रत्येक अणु कैसे काम करता है, तो हम संभवतः इसे दोहरा सकते हैं। इसका मतलब होगा हर चीज़ को गणितीय समीकरणों में डालना। फिर आप कंप्यूटर का उपयोग करके इसे दोहरा सकते हैं। समस्या बस इतनी है कि हम उन समीकरणों को लिखने और बनाने में असमर्थ हैं।

कंप्यूटर चिप आर्टिफिशियल इंटेलिजेंस पर हेड की प्रोफ़ाइल — डिजिटल रुझान ग्राफ़िक

बीएस: दुनिया की कई सबसे दिलचस्प चीजें सूक्ष्मता के स्तर पर घटित हो रही हैं, जिन तक हम नहीं पहुंच सकते। हमारे पास इमेजिंग उपकरण नहीं हैं, और मस्तिष्क के बहुत अच्छे स्तरों पर जो कुछ भी चल रहा है, उसे पकड़ने के लिए हमारे पास इमेजिंग उपकरण शायद कभी भी नहीं होंगे।

इसका मतलब यह है कि हम नहीं जानते, उदाहरण के लिए, चेतना के लिए क्या जिम्मेदार है। वास्तव में, काफी दिलचस्प दार्शनिक समस्याओं की एक श्रृंखला है, जो, जिस पद्धति का हम अनुसरण कर रहे हैं, उसके अनुसार, हमेशा अनसुलझी रहेंगी - और इसलिए हमें उन्हें अनदेखा कर देना चाहिए।

दूसरी इच्छा की स्वतंत्रता है। हम दृढ़तापूर्वक इस विचार के पक्ष में हैं कि मनुष्य के पास इच्छाशक्ति होती है; हमारे इरादे, लक्ष्य इत्यादि हो सकते हैं। लेकिन हम नहीं जानते कि यह एक स्वतंत्र इच्छा है या नहीं। यह एक ऐसा मुद्दा है जिसका संबंध मस्तिष्क की भौतिकी से है। जहां तक हमारे पास उपलब्ध साक्ष्य का सवाल है, कंप्यूटर के पास कोई इच्छाशक्ति नहीं हो सकती।

डीटी: पुस्तक का उपशीर्षक 'बिना डर के कृत्रिम बुद्धिमत्ता' है। आप किस विशिष्ट डर का उल्लेख कर रहे हैं?

बीएस: यह विलक्षणता पर साहित्य द्वारा उकसाया गया था, जिससे मैं जानता हूं कि आप परिचित हैं। निक बोस्ट्रोम, डेविड चाल्मर्स, एलोन मस्क, और जैसे। जब हमने वास्तविक दुनिया में अपने सहयोगियों से बात की, तो हमें यह स्पष्ट हो गया कि वास्तव में ऐसा था लोगों के बीच एक निश्चित डर है कि एआई अंततः कब्ज़ा कर लेगा और दुनिया को नुकसान पहुंचाकर बदल देगा मनुष्य.

पुस्तक में बोस्ट्रम-प्रकार के तर्कों के बारे में हमारे पास काफी कुछ है। उनके विरुद्ध मुख्य तर्क यह है कि यदि मशीन में कोई इच्छाशक्ति नहीं हो सकती, तो उसमें बुरी इच्छाशक्ति भी नहीं हो सकती। बुरी इच्छा के बिना, डरने की कोई बात नहीं है। अब, निस्संदेह, हम अभी भी मशीनों से डर सकते हैं, जैसे हम बंदूकों से डर सकते हैं।

लेकिन ऐसा इसलिए है क्योंकि मशीनों का प्रबंधन बुरे इरादों वाले लोगों द्वारा किया जा रहा है। लेकिन फिर यह AI नहीं है जो दुष्ट है; यह वे लोग हैं जो एआई का निर्माण और प्रोग्राम करते हैं

डीटी: विलक्षणता या कृत्रिम सामान्य बुद्धि की यह धारणा लोगों में इतनी रुचि क्यों रखती है? चाहे वे इससे डरे हुए हों या इससे मोहित हों, इस विचार में कुछ ऐसा है जो व्यापक स्तर पर लोगों को प्रभावित करता है।

जेएल: यह विचार है, जो 19वीं सदी की शुरुआत में शुरू हुआ और फिर उस सदी के अंत में नीत्शे द्वारा घोषित किया गया, कि ईश्वर मर चुका है। चूँकि हमारे समाज के संभ्रांत लोग अब ईसाई नहीं हैं, इसलिए उन्हें एक प्रतिस्थापन की आवश्यकता थी। मैक्स स्टिरनर, जो कार्ल मार्क्स की तरह हेगेल के शिष्य थे, ने इस बारे में एक किताब लिखी, जिसमें कहा गया था, 'मैं अपना भगवान खुद हूं।'

यदि आप भगवान हैं, तो आप निर्माता भी बनना चाहते हैं। यदि आप एक सुपरइंटेलिजेंस बना सकते हैं तो आप भगवान के समान हैं। मुझे लगता है कि इसका संबंध हमारी संस्कृति में अति-नार्सिसिस्टिक प्रवृत्तियों से है। हम पुस्तक में इसके बारे में बात नहीं करते हैं, लेकिन यह मुझे बताता है कि यह विचार हमारे समय में इतना आकर्षक क्यों है, जिसमें अब कोई पारलौकिक इकाई नहीं है।

कंप्यूटर टेक्स्ट स्क्रॉलिंग कृत्रिम बुद्धिमत्ता वाला मस्तिष्क — क्रिस डेग्रॉ/डिजिटल ट्रेंड्स, गेटी इमेजेज़

डीटी: दिलचस्प. तो इसका पालन करने के लिए, यह विचार है कि एआई का निर्माण - या एआई बनाने का उद्देश्य - एक आत्ममुग्ध कार्य है। उस स्थिति में, यह अवधारणा कि ये रचनाएँ किसी तरह हमसे अधिक शक्तिशाली हो जाएँगी, एक दुःस्वप्न जैसा मोड़ है। यह बच्चा ही माता-पिता को मार रहा है।

जेएल: कुछ-कुछ वैसा ही, हाँ।

डीटी: यदि हर कोई आपके तर्कों से आश्वस्त हो जाए तो आपकी पुस्तक का अंतिम परिणाम क्या होगा? एआई विकास के भविष्य के लिए इसका क्या अर्थ होगा?

जेएल: यह बहुत अच्छा प्रश्न है. मैं आपको बिल्कुल वही बता सकता हूं जो मैं सोचता हूं कि घटित होगा - और घटित होगा। मुझे लगता है कि मध्यावधि में लोग हमारे तर्कों को स्वीकार करेंगे और इससे बेहतर ढंग से लागू गणित का निर्माण होगा।

एक ऐसी चीज़ जिसके बारे में सभी महान गणितज्ञ और भौतिक विज्ञानी पूरी तरह से अवगत हैं, वह गणितीय रूप से जो हासिल कर सकते हैं उसकी सीमाएँ हैं। क्योंकि वे इसके बारे में जानते हैं, वे केवल कुछ समस्याओं पर ही ध्यान केंद्रित करते हैं। यदि आप सीमाओं से अच्छी तरह परिचित हैं, तो आप दुनिया भर में घूमें और इन समस्याओं को देखें और उनका समाधान करें। इस प्रकार आइंस्टीन ने ब्राउनियन गति के समीकरण खोजे; वह सापेक्षता के अपने सिद्धांतों के साथ कैसे आए; कैसे प्लैंक ने ब्लैकबॉडी विकिरण को हल किया और इस प्रकार पदार्थ के क्वांटम सिद्धांत की शुरुआत की। उनमें इस बात की अच्छी समझ थी कि गणित से कौन सी समस्याएँ हल हो सकती हैं और कौन सी नहीं।

यदि लोग हमारी पुस्तक का संदेश सीखते हैं, तो हमारा मानना है कि वे बेहतर सिस्टम बनाने में सक्षम होंगे, क्योंकि वे जो वास्तव में संभव है उस पर ध्यान केंद्रित करेंगे - और जो संभव नहीं है उस पर पैसा और प्रयास बर्बाद करना बंद कर देंगे हासिल।

बीएस: मुझे लगता है कि कुछ संदेश पहले से ही पहुंच रहा है, हम जो कहते हैं उसके कारण नहीं बल्कि इसके कारण लोगों को ऐसे अनुभव होते हैं जब वे एआई परियोजनाओं के लिए बड़ी मात्रा में धन देते हैं, और फिर एआई परियोजनाएं विफल हो जाती हैं। मुझे लगता है कि आप संयुक्त कृत्रिम बुद्धिमत्ता केंद्र के बारे में जानते हैं। मुझे सटीक राशि याद नहीं है, लेकिन मुझे लगता है कि यह 10 बिलियन डॉलर के बराबर थी, जो उन्होंने एक प्रसिद्ध ठेकेदार को दी थी। आख़िरकार, उन्हें इससे कुछ नहीं मिला। उन्होंने अनुबंध रद्द कर दिया.

(संपादक का नोट: जेएआईसी, संयुक्त राज्य सशस्त्र बलों का एक उपखंड, का उद्देश्य मिशन प्रभाव को प्राप्त करने के लिए एआई की डिलीवरी और अपनाने में तेजी लाना था। पैमाने पर।" इस साल जून में इसे दो अन्य कार्यालयों के साथ एक बड़े एकीकृत संगठन, मुख्य डिजिटल और आर्टिफिशियल इंटेलिजेंस अधिकारी में बदल दिया गया। JAIC का अपनी इकाई के रूप में अस्तित्व समाप्त हो गया।)

डीटी: आप क्या सोचते हैं, उच्च-स्तरीय शब्दों में, पुस्तक में आपके द्वारा दिया गया एकमात्र सबसे सम्मोहक तर्क क्या है?

बीएस: प्रत्येक एआई प्रणाली प्रकृति में गणितीय है। चूँकि हम गणितीय रूप से चेतना, इच्छाशक्ति या बुद्धिमत्ता का मॉडल नहीं बना सकते हैं, इसलिए इन्हें मशीनों का उपयोग करके अनुकरण नहीं किया जा सकता है। इसलिए, मशीनें बुद्धिमान नहीं बनेंगी, सुपरइंटेलिजेंट तो दूर की बात है।

जेएल: हमारे मस्तिष्क की संरचना केवल प्रकृति के सीमित मॉडल की अनुमति देती है। भौतिकी में, हम वास्तविकता का एक उपसमूह चुनते हैं जो हमारी गणितीय मॉडलिंग क्षमताओं के अनुकूल होता है। इस तरह न्यूटन, मैक्सवेल, आइंस्टीन या श्रोडिंगर ने अपने प्रसिद्ध और सुंदर मॉडल प्राप्त किए। लेकिन ये केवल सिस्टम के एक छोटे समूह का वर्णन या भविष्यवाणी कर सकते हैं। हमारे सर्वोत्तम मॉडल वे हैं जिनका उपयोग हम इंजीनियरिंग प्रौद्योगिकी के लिए करते हैं। हम चेतन प्रकृति का पूर्ण गणितीय मॉडल बनाने में असमर्थ हैं।

इस साक्षात्कार को लंबाई और स्पष्टता के लिए संपादित किया गया है।