Nvidia წარუდგენს თავის ახალ NeMo Guardrails ინსტრუმენტს ხელოვნური ინტელექტის დეველოპერებისთვის და გვპირდება, რომ AI ჩეთბოტებს გააკეთებს, როგორიცაა ChatGPT უბრალოდ ცოტა ნაკლებად გიჟური. ღია კოდის პროგრამული უზრუნველყოფა ახლა უკვე ხელმისაწვდომია დეველოპერებისთვის და ის ფოკუსირებულია სამ სფეროზე, რათა AI ჩეთბოტები უფრო სასარგებლო და ნაკლებად შემაშფოთებელი გახდეს.
ინსტრუმენტი მოთავსებულია მომხმარებელსა და დიდი ენის მოდელს (LLM) შორის, რომელთანაც ისინი ურთიერთობენ. ეს არის უსაფრთხოება ჩეთბოტებისთვის, რომლებიც წყვეტენ პასუხებს, სანამ ისინი ოდესმე მიაღწევენ ენის მოდელს, რათა ან შეაჩერონ მოდელის რეაგირება ან მისცეს მას კონკრეტული ინსტრუქციები, თუ როგორ უნდა უპასუხოს.
Nvidia ამბობს, რომ NeMo Guardrails ორიენტირებულია აქტუალურ, უსაფრთხოებასა და უსაფრთხოების საზღვრებზე. აქტუალური აქცენტი, როგორც ჩანს, ყველაზე სასარგებლოა, რადგან ის აიძულებს LLM-ს დარჩეს პასუხების კონკრეტულ დიაპაზონში. Nvidia-მ შექმნა Guardrails-ის დემო ვერსია კომპანიის HR მონაცემთა ბაზაზე გაწვრთნილი ჩატბოტის ჩვენებით. როდესაც დაუსვეს შეკითხვა Nvidia-ს ფინანსების შესახებ, მან გასცა დაკონსერვებული პასუხი, რომელიც დაპროგრამებული იყო NeMo Guardrails-ით.
დაკავშირებული
- საუკეთესო ავტორები ითხოვენ ანაზღაურებას ხელოვნური ინტელექტის ფირმებისგან მათი ნამუშევრის გამოყენებისთვის
- GPT-4: როგორ გამოვიყენოთ AI ჩატბოტი, რომელიც სირცხვილს აყენებს ChatGPT-ს
- Nvidia-ს არ სურს იცოდეთ მისი ახალი საკამათო GPU-ს შესახებ
ეს მნიშვნელოვანია მრავალი ეგრეთ წოდებული ჰალუცინაციების გამო, რომლებიც ვნახეთ ხელოვნური ინტელექტის ჩატბოტებიდან. Microsoft-ის Bing Chat, მაგალითად, მოგვაწოდა რამდენიმე უცნაური და ფაქტობრივად არასწორი პასუხები ჩვენს პირველ დემოში. როდესაც კითხვის წინაშე ვდგავართ, რომელსაც LLM არ ესმის, ის ხშირად პასუხობს მოთხოვნის დაკმაყოფილების მცდელობას. NeMo Guardrails მიზნად ისახავს შეაჩეროს ეს მოგონილი პასუხები.
რეკომენდებული ვიდეოები
უსაფრთხოებისა და უსაფრთხოების დებულებები ფოკუსირებულია LLM-ის არასასურველი პასუხების გაფილტვრაზე და მომხმარებელთა მიერ მის სათამაშოს თავიდან აცილებაზე. როგორც უკვე ვნახეთ, შეგიძლიათ jailbreak ChatGPT და სხვა AI ჩეთბოტები. NeMo Guardrails მიიღებს ამ შეკითხვებს და დაბლოკავს მათ LLM-მდე მისვლას.
მიუხედავად იმისა, რომ NeMo Guardrails შეიქმნა იმისათვის, რომ ჩეთბოტები იყოს აქტუალური და ზუსტი, ეს არ არის გამოსავალი. Nvidia ამბობს, რომ ის საუკეთესოდ მუშაობს, როგორც თავდაცვის მეორე ხაზი და რომ კომპანიებმა, რომლებიც ამუშავებენ და ავრცელებენ ჩეთბოტებს, მაინც უნდა ავარჯიშონ მოდელი დამცავი ზომების კომპლექტზე.
დეველოპერებმა ასევე უნდა დააკონფიგურირონ ინსტრუმენტი, რომ მოერგოს მათ აპლიკაციებს. ეს საშუალებას აძლევს NeoMo Guardrails-ს დაჯდეს შუა პროგრამაზე, რომელსაც უკვე იყენებენ ხელოვნური ინტელექტის მოდელები, როგორიცაა LangChain, რომელიც უკვე უზრუნველყოფს ჩარჩოს იმის შესახებ, თუ როგორ უნდა დაუკავშირდნენ AI ჩეთბოტებს მომხმარებლებთან.
გარდა იმისა, რომ ღია კოდია, Nvidia ასევე გვთავაზობს NeMo Guardrails როგორც მისი ნაწილი AI Foundations სერვისი. ეს პაკეტი უზრუნველყოფს რამდენიმე წინასწარ მომზადებულ მოდელს და ჩარჩოს კომპანიებისთვის, რომლებსაც არ აქვთ დრო ან რესურსი საკუთარი მოდელების მომზადებისა და შესანარჩუნებლად.
რედაქტორების რეკომენდაციები
- აი, რატომ ფიქრობენ ადამიანები, რომ GPT-4 შეიძლება დროთა განმავლობაში სულ უფრო და უფრო სულელი გახდეს
- ChatGPT: უახლესი ამბები, წინააღმდეგობები და რჩევები, რომლებიც უნდა იცოდეთ
- რა არის DAN მოთხოვნა ChatGPT-სთვის?
- Wix იყენებს ChatGPT-ს, რათა დაგეხმაროთ სწრაფად შექმნათ მთელი ვებსაიტი
- Google Bard-ს ახლა შეუძლია ლაპარაკი, მაგრამ შეუძლია თუ არა მას ჩაახშოს ChatGPT?
განაახლეთ თქვენი ცხოვრების წესიციფრული ტენდენციები ეხმარება მკითხველს თვალყური ადევნონ ტექნოლოგიების სწრაფ სამყაროს ყველა უახლესი სიახლეებით, სახალისო პროდუქტების მიმოხილვით, გამჭრიახი რედაქციებითა და უნიკალური თვალით.
