एनवीडिया गार्डरेल्स एआई चैटबॉट्स के साथ एक बड़ी समस्या को ठीक करता है

एनवीडिया एआई डेवलपर्स के लिए अपना नया नेमो गार्डराइल्स टूल पेश कर रहा है, और यह एआई चैटबॉट जैसा बनाने का वादा करता है चैटजीपीटी बस थोड़ा कम पागल. ओपन-सोर्स सॉफ़्टवेयर अब डेवलपर्स के लिए उपलब्ध है, और यह एआई चैटबॉट्स को अधिक उपयोगी और कम परेशान करने वाला बनाने के लिए तीन क्षेत्रों पर ध्यान केंद्रित करता है।

उपकरण उपयोगकर्ता और बड़े भाषा मॉडल (एलएलएम) के बीच बैठता है जिसके साथ वे बातचीत कर रहे हैं। यह चैटबॉट्स के लिए एक सुरक्षा है, जो प्रतिक्रियाओं को भाषा मॉडल तक पहुंचने से पहले ही रोक देता है ताकि या तो मॉडल को प्रतिक्रिया देने से रोका जा सके या उसे प्रतिक्रिया देने के तरीके के बारे में विशिष्ट निर्देश दिए जा सकें।

एनवीडिया का कहना है कि निमो गार्डरेल्स सामयिक, सुरक्षा और सुरक्षा सीमाओं पर केंद्रित है। सामयिक फोकस सबसे उपयोगी प्रतीत होता है, क्योंकि यह एलएलएम को प्रतिक्रियाओं की एक विशेष श्रेणी में रहने के लिए मजबूर करता है। एनवीडिया ने कंपनी के एचआर डेटाबेस पर प्रशिक्षित एक चैटबॉट दिखाकर रेलिंग का प्रदर्शन किया। जब एनवीडिया के वित्त के बारे में एक प्रश्न पूछा गया, तो उसने एक डिब्बाबंद उत्तर दिया जिसे निमो रेलिंग के साथ प्रोग्राम किया गया था।

एआई चैटबॉट्स में हमने जो कई तथाकथित मतिभ्रम देखे हैं, उनके कारण यह महत्वपूर्ण है। माइक्रोसॉफ्ट की बिंग चैट, उदाहरण के लिए, हमें कई विचित्र चीजें प्रदान कीं और हमारे पहले डेमो में तथ्यात्मक रूप से गलत प्रतिक्रियाएँ। जब किसी ऐसे प्रश्न का सामना करना पड़ता है जिसे एलएलएम नहीं समझता है, तो वह अक्सर प्रश्न को संतुष्ट करने के प्रयास में एक प्रतिक्रिया देगा। निमो गार्डरेल्स का लक्ष्य उन बनी-बनाई प्रतिक्रियाओं पर रोक लगाना है।

सुरक्षा और सुरक्षा सिद्धांत एलएलएम से अवांछित प्रतिक्रियाओं को फ़िल्टर करने और इसे उपयोगकर्ताओं द्वारा खिलवाड़ किए जाने से रोकने पर ध्यान केंद्रित करते हैं। जैसा कि हमने पहले ही देखा है, आप कर सकते हैं जेलब्रेक चैटजीपीटी और अन्य AI चैटबॉट। निमो गार्डराइल्स उन प्रश्नों को ले लेगा और उन्हें एलएलएम तक पहुंचने से रोक देगा।

हालाँकि चैटबॉट्स को विषय पर और सटीक रखने के लिए निमो रेलिंग का निर्माण किया गया है, लेकिन यह एक सर्वव्यापी समाधान नहीं है। एनवीडिया का कहना है कि यह रक्षा की दूसरी पंक्ति के रूप में सबसे अच्छा काम करता है, और चैटबॉट विकसित करने और तैनात करने वाली कंपनियों को अभी भी सुरक्षा उपायों के एक सेट पर मॉडल को प्रशिक्षित करना चाहिए।

डेवलपर्स को भी अपने अनुप्रयोगों में फिट होने के लिए टूल को अनुकूलित करने की आवश्यकता है। यह नियोमो गार्डरेल्स को उन मिडलवेयर के शीर्ष पर बैठने की अनुमति देता है जो एआई मॉडल पहले से ही उपयोग करते हैं, जैसे कि लैंगचेन, जो पहले से ही एक रूपरेखा प्रदान करता है कि एआई चैटबॉट्स को उपयोगकर्ताओं के साथ कैसे बातचीत करनी चाहिए।

ओपन-सोर्स होने के अलावा, एनवीडिया अपने हिस्से के रूप में निमो गार्डराइल्स भी पेश कर रहा है एआई फ़ाउंडेशन सेवा. यह पैकेज उन कंपनियों के लिए कई पूर्व-प्रशिक्षित मॉडल और रूपरेखा प्रदान करता है जिनके पास अपने स्वयं के मॉडल को प्रशिक्षित करने और बनाए रखने के लिए समय या संसाधन नहीं हैं।

संपादकों की सिफ़ारिशें

• यही कारण है कि लोग सोचते हैं कि GPT-4 समय के साथ कमज़ोर होता जा रहा है
• चैटजीपीटी: नवीनतम समाचार, विवाद और युक्तियाँ जो आपको जानना आवश्यक हैं
• ChatGPT के लिए DAN प्रॉम्प्ट क्या है?
• Wix आपको शीघ्रता से संपूर्ण वेबसाइट बनाने में मदद करने के लिए ChatGPT का उपयोग करता है
• Google Bard अब बोल सकता है, लेकिन क्या यह ChatGPT को ख़त्म कर सकता है?

अपनी जीवनशैली को उन्नत करेंडिजिटल ट्रेंड्स पाठकों को सभी नवीनतम समाचारों, मजेदार उत्पाद समीक्षाओं, व्यावहारिक संपादकीय और एक तरह की अनूठी झलक के साथ तकनीक की तेज़ गति वाली दुनिया पर नज़र रखने में मदद करता है।