GPT-3: OpenAI का नया टेक्स्ट जनरेटिंग न्यूरल नेटवर्क यहाँ है

जब 2019 में टेक्स्ट-जनरेटिंग एल्गोरिदम GPT-2 बनाया गया था, तो इसे सबसे "में से एक" के रूप में लेबल किया गया था।खतरनाक” ए.आई. इतिहास में एल्गोरिदम. वास्तव में, कुछ लोगों ने तर्क दिया कि यह इतना खतरनाक है कि इसे कभी भी जनता के लिए जारी नहीं किया जाना चाहिए (स्पॉइलर: यह था) ऐसा न हो कि यह "रोबोट सर्वनाश।” निस्संदेह, ऐसा कभी नहीं हुआ। GPT-2 को अंततः जनता के लिए जारी कर दिया गया, और जब इसने दुनिया को नष्ट नहीं किया, तो इसके निर्माता अगली चीज़ पर चले गए। लेकिन आप अब तक बनाए गए सबसे खतरनाक एल्गोरिदम का पालन कैसे करते हैं?

उत्तर, कम से कम कागज पर, सरल है: किसी भी सफल फिल्म की अगली कड़ी की तरह, आप कुछ ऐसा बनाते हैं जो बड़ा, खराब और अधिक महंगा होता है। पहले में केवल एक ज़ेनोमोर्फ विदेशी? अगली कड़ी में उनका एक पूरा घोंसला शामिल करें, एलियंस. बस एक निकट-अविनाशी मशीन को भविष्य से वापस भेजा गया टर्मिनेटर? दर्शकों को उनमें से दो को जूझने के लिए दें टर्मिनेटर 2: फैसले का दिन.

ए.आई. के लिए भी यही सच है। - इस मामले में, जीपीटी-3हाल ही में जारी किया गया एक प्राकृतिक भाषा प्रसंस्करण तंत्रिका नेटवर्क, जो कि कृत्रिम बुद्धिमत्ता अनुसंधान प्रयोगशाला ओपनएआई द्वारा बनाया गया था, जो एक समय था (

लेकिन अब नहीं) स्पेसएक्स और टेस्ला के सीईओ एलोन मस्क द्वारा प्रायोजित।

GPT-3 टेक्स्ट-जनरेटिंग न्यूरल नेटवर्क की श्रृंखला में नवीनतम है। GPT नाम का मतलब जेनरेटिव प्रीट्रेंड ट्रांसफार्मर है, जो 2017 को संदर्भित करता है Google के नवप्रवर्तन को ट्रांसफार्मर कहा जाता है जो इस संभावना का पता लगा सकता है कि कोई विशेष शब्द आसपास के शब्दों के साथ दिखाई देगा। कुछ वाक्यों से फेड, जैसे एक समाचार कहानी की शुरुआत, जीपीटी पूर्व-प्रशिक्षित भाषा मॉडल मनगढ़ंत सूत्रीकरण सहित, ठोस रूप से सटीक निरंतरताएं उत्पन्न कर सकता है उद्धरण।

यही कारण है कि कुछ लोग चिंतित हैं कि यह गलत पाठ उत्पन्न करने में मदद करके खुद को खतरनाक साबित कर सकता है डीपफेक, सकना फर्जी खबरों को ऑनलाइन फैलाने में मदद करें. अब, GPT-3 के साथ यह पहले से कहीं अधिक बड़ा और स्मार्ट हो गया है।

टेप की कहानी

जीपीटी-3, बॉक्सिंग-शैली की "टेप की कहानी" की तुलना से स्पष्ट हो जाता है, जो एक प्रतियोगी को वास्तव में भारी नुकसान पहुंचाता है। ओपनएआई के मूल 2018 जीपीटी में 110 मिलियन पैरामीटर थे, जो कनेक्शन के वजन का जिक्र करते हैं जो तंत्रिका नेटवर्क को सीखने में सक्षम बनाते हैं। 2019 का GPT-2, जिसने अपने संभावित दुर्भावनापूर्ण अनुप्रयोगों के बारे में पिछले हंगामे का कारण बना, में 1.5 बिलियन पैरामीटर थे। पिछला महीना, माइक्रोसॉफ्ट ने 17 बिलियन मापदंडों का दावा करते हुए दुनिया का सबसे बड़ा समान पूर्व-प्रशिक्षित भाषा मॉडल पेश किया। तुलनात्मक रूप से, 2020 का राक्षसी GPT-3 आश्चर्यजनक है 175 अरब पैरामीटर. कथित तौर पर इसे प्रशिक्षित करने में लगभग $12 मिलियन का खर्च आया।

“इन मॉडलों की शक्ति यह है कि अगले शब्द की सफलतापूर्वक भविष्यवाणी करने के लिए वे वास्तव में शक्तिशाली दुनिया सीखते हैं ऐसे मॉडल जिनका उपयोग सभी प्रकार की दिलचस्प चीज़ों के लिए किया जा सकता है,'' निक वाल्टन, लैटीट्यूड, स्टूडियो के मुख्य प्रौद्योगिकी अधिकारी पीछे ए.आई. तहखानेजीपीटी-2 द्वारा संचालित एक ए.आई.-जनित टेक्स्ट एडवेंचर गेम, डिजिटल ट्रेंड्स को बताया गया। "आप पूर्व-प्रशिक्षण में सीखे गए मॉडल के ज्ञान को बनाए रखते हुए पीढ़ी को एक विशिष्ट दिशा में आकार देने के लिए आधार मॉडल को भी ठीक कर सकते हैं।"

ग्वेर्न ब्रैनवेनमनोविज्ञान, सांख्यिकी और प्रौद्योगिकी के बारे में लिखने वाले एक टिप्पणीकार और शोधकर्ता ने डिजिटल ट्रेंड्स को बताया कि पूर्व-प्रशिक्षित भाषा मॉडल जीपीटी का प्रतिनिधित्व "किसी भी मशीन सीखने के कार्य का तेजी से महत्वपूर्ण हिस्सा बन गया है।" पाठ पर. उसी तरह से (मानक सुझाव के लिए) कई छवि-संबंधी कार्य 'उपयोग' बन गए हैं [कन्वेंशनल न्यूरल नेटवर्क], कई भाषा-संबंधित कार्य 'एक सुव्यवस्थित भाषा का उपयोग' बन गए हैं नमूना।'"

OpenAI - जिसने इस लेख के लिए टिप्पणी करने से इनकार कर दिया - प्राकृतिक भाषा प्रसंस्करण के साथ कुछ प्रभावशाली काम करने वाली एकमात्र कंपनी नहीं है। जैसा कि उल्लेख किया गया है, माइक्रोसॉफ्ट ने अपने स्वयं के कुछ चमकदार कार्यों के साथ आगे कदम बढ़ाया है। फेसबुकइस बीच, प्रौद्योगिकी में भारी निवेश कर रहा है और उसने जैसी सफलताएँ हासिल की हैं ब्लेंडरबॉट, अब तक का सबसे बड़ा ओपन-सोर्स, ओपन-डोमेन चैटबॉट। मानव मूल्यांकनकर्ताओं के अनुसार, जुड़ाव के मामले में यह दूसरों से बेहतर प्रदर्शन करता है और अधिक मानवीय भी महसूस करता है। जैसा कि पिछले कुछ वर्षों में कंप्यूटर का उपयोग करने वाले किसी भी व्यक्ति को पता होगा, मशीनें हमें समझने में पहले से कहीं बेहतर हो रही हैं - और प्राकृतिक भाषा प्रसंस्करण ही इसका कारण है।

आकार मायने रखती ह

लेकिन OpenAI का GPT-3 अभी भी अपने रिकॉर्ड तोड़ने वाले पैमाने पर अकेला खड़ा है। "GPT-3 मुख्य रूप से अपने आकार के कारण चर्चा पैदा कर रहा है," जो डेविसन, एक शोध इंजीनियर आलिंगन करता हुआ चेहराओपन-सोर्स टूल विकसित करके और मौलिक शोध करके प्राकृतिक भाषा प्रसंस्करण की उन्नति पर काम करने वाला एक स्टार्टअप, डिजिटल ट्रेंड्स को बताया।

बड़ा सवाल यह है कि इन सबका उपयोग किसलिए किया जाएगा। GPT-2 ने असंख्य उपयोगों में अपनी जगह बना ली है, जिसका उपयोग विभिन्न टेक्स्ट-जनरेटिंग प्रणालियों के लिए किया जा रहा है।

डेविसन ने कुछ चेतावनी व्यक्त की कि GPT-3 इसके आकार के कारण सीमित हो सकता है। उन्होंने कहा, "ओपनएआई की टीम ने निर्विवाद रूप से इस बात को आगे बढ़ाया है कि ये मॉडल कितने बड़े हो सकते हैं और दिखाया है कि इन्हें विकसित करने से कार्य-विशिष्ट डेटा पर हमारी निर्भरता कम हो जाती है।" “हालांकि, वास्तविक दुनिया में GPT-3 का वास्तव में उपयोग करने के लिए आवश्यक कम्प्यूटेशनल संसाधन इसे बेहद अव्यवहारिक बनाते हैं। इसलिए हालांकि काम निश्चित रूप से दिलचस्प और ज्ञानवर्धक है, मैं इसे क्षेत्र के लिए एक बड़ा कदम नहीं कहूंगा।

हालाँकि, अन्य लोग असहमत हैं। “[आंतरिक-लिंक पोस्ट_आईडी = "एनएन"] कृत्रिम बुद्धिमत्ता [/ आंतरिक-लिंक] समुदाय ने लंबे समय से देखा है कि अधिक से अधिक डेटा के साथ बड़े मॉडलों का संयोजन इन मॉडलों की शक्ति में लगभग अनुमानित सुधार होता है, जो काफी हद तक मूर के स्केलिंग कंप्यूट पावर के नियम की तरह है,'' यानिक किलचर, एक ए.आई. शोधकर्ता कौन एक यूट्यूब चैनल चलाता है, डिजिटल ट्रेंड्स को बताया। "फिर भी, मूर के नियम की तरह, कई लोगों ने अनुमान लगाया है कि हम केवल भाषा मॉडल को स्केल करके उन्हें बेहतर बनाने में सक्षम होने के अंत में हैं ऊपर, और उच्च प्रदर्शन प्राप्त करने के लिए, हमें नए आर्किटेक्चर या प्रशिक्षण के संदर्भ में पर्याप्त आविष्कार करने की आवश्यकता होगी तरीके. GPT-3 दिखाता है कि यह सच नहीं है और केवल पैमाने के माध्यम से प्रदर्शन को आगे बढ़ाने की क्षमता अटूट लगती है - और वास्तव में इसका कोई अंत नजर नहीं आता है।''

ट्यूरिंग टेस्ट पास कर रहे हैं?

ब्रैनवेन का सुझाव है कि GPT-3 जैसे उपकरण एक प्रमुख विघटनकारी शक्ति हो सकते हैं। "इसके बारे में सोचने का एक तरीका यह है कि कौन से कार्यों में पाठ का एक टुकड़ा लेना, उसे बदलना और पाठ का दूसरा टुकड़ा उत्सर्जित करना शामिल है?" ब्रैनवेन ने कहा। "कोई भी नौकरी जो इसके द्वारा वर्णित है - जैसे मेडिकल कोडिंग, बिलिंग, रिसेप्शनिस्ट, ग्राहक सहायता, [और अधिक] जीपीटी -3 को ठीक करने और उस व्यक्ति को बदलने के लिए एक अच्छा लक्ष्य होगा। बहुत सारी नौकरियां कमोबेश 'एक स्प्रेडशीट या पीडीएफ से फ़ील्ड को दूसरी स्प्रेडशीट या पीडीएफ में कॉपी करना' और उस तरह का कार्यालय स्वचालन है, जो बहुत अव्यवस्थित है। प्रतिस्थापित करने के लिए आसानी से एक सामान्य प्रोग्राम लिखें, यह GPT-3 के प्रति संवेदनशील होगा क्योंकि यह सभी अपवादों और विभिन्न सम्मेलनों को सीख सकता है और मानव के समान ही कार्य कर सकता है चाहेंगे।"

अंततः, प्राकृतिक भाषा प्रसंस्करण ए.आई. का सिर्फ एक हिस्सा हो सकता है, लेकिन यह यकीनन कृत्रिम बुद्धिमत्ता के सपने के मूल में उस तरह से कटौती करता है जैसे क्षेत्र में कुछ अन्य विषय करते हैं। प्रसिद्ध ट्यूरिंग टेस्ट, इस क्षेत्र को शुरू करने वाली मौलिक बहसों में से एक, एक प्राकृतिक भाषा प्रसंस्करण समस्या है: क्या आप ए.आई. बना सकते हैं? क्या वह स्वयं को एक व्यक्ति के रूप में प्रस्तुत कर सकता है? OpenAI का नवीनतम कार्य निश्चित रूप से इस लक्ष्य को आगे बढ़ाता है। अब यह देखना बाकी है कि शोधकर्ता इसके लिए क्या अनुप्रयोग ढूंढेंगे।

ब्रैनवेन ने कहा, "मुझे लगता है कि यह तथ्य है कि जीपीटी-2 पाठ इतनी आसानी से मानव के लिए पारित हो सकता है कि इसे 'सिर्फ पैटर्न पहचान' या 'सिर्फ याद रखना' के रूप में हाथ से दूर करना मुश्किल हो रहा है।" "जिस किसी को भी यकीन था कि गहरी शिक्षा से जो चीजें होती हैं, वे बुद्धि से मिलती-जुलती नहीं हैं, उनका विश्वास यह देखकर हिल गया होगा कि यह कितनी दूर तक आ गया है।"

संपादकों की सिफ़ारिशें

• शीर्ष लेखक अपने काम का उपयोग करने के लिए एआई फर्मों से भुगतान की मांग करते हैं
• चैटजीपीटी निर्माता ओपनएआई को उपभोक्ता संरक्षण कानूनों पर एफटीसी जांच का सामना करना पड़ रहा है
• सुपरइंटेलिजेंट एआई को खराब होने से रोकने के लिए ओपनएआई नई टीम बना रहा है
• चैटजीपीटी निर्माता चैटबॉट 'मतिभ्रम' को खत्म करना चाहता है
• OpenAI का नया ChatGPT ऐप iPhone और iPad के लिए मुफ़्त है