Nvidia predstavlja svoj novi alat NeMo Guardrails za AI programere i obećava da će AI chatbotove učiniti poput ChatGPT samo malo manje ludo. Softver otvorenog koda sada je dostupan programerima i fokusiran je na tri područja kako bi AI chatbotove učinio korisnijima i manje uznemirujućima.
Alat se nalazi između korisnika i Large Language Modela (LLM) s kojim komunicira. To je sigurnost za chatbotove, presretanje odgovora prije nego što uopće dođu do jezičnog modela kako bi zaustavili model da odgovori ili mu dali specifične upute o tome kako odgovoriti.
Nvidia kaže da je NeMo Guardrails fokusiran na tematske, sigurnosne i sigurnosne granice. Čini se da je tematski fokus najkorisniji jer prisiljava LLM da ostane u određenom rasponu odgovora. Nvidia je demonstrirala Guardrails prikazujući chatbota obučenog za HR bazu podataka tvrtke. Na pitanje o Nvidijinim financijama, dala je standardni odgovor koji je programiran s NeMo Guardrails.
Povezano
- Vrhunski autori traže plaćanje od AI tvrtki za korištenje njihovog rada
- GPT-4: kako koristiti AI chatbot koji posramljuje ChatGPT
- Nvidia ne želi da znate za njen kontroverzni novi GPU
Ovo je važno zbog mnogih takozvanih halucinacija koje smo vidjeli u AI chatbotovima. Microsoftov Bing Chat, na primjer, pružio nam je nekoliko bizarnih i činjenično netočne odgovore u našoj prvoj demonstraciji. Kada se suoči s pitanjem koje LLM ne razumije, često će izmisliti odgovor u pokušaju da udovolji upitu. NeMo Guardrails ima za cilj stati na kraj tim izmišljenim odgovorima.
Preporučeni videozapisi
Sigurnosni i sigurnosni principi usmjereni su na filtriranje neželjenih odgovora LLM-a i sprječavanje korisnika da se njime poigravaju. Kao što smo već vidjeli, možete bjekstvo iz zatvora ChatGPT i druge AI chatbotove. NeMo Guardrails će preuzeti te upite i spriječiti ih da dođu do LLM-a.
Iako je NeMo Guardrails izgrađen kako bi chatbotovi bili na temi i točni, to nije sveobuhvatno rješenje. Nvidia kaže da najbolje funkcionira kao druga linija obrane i da bi tvrtke koje razvijaju i implementiraju chatbotove i dalje trebale trenirati model na skupu zaštitnih mjera.
Programeri također moraju prilagoditi alat kako bi odgovarao njihovim aplikacijama. To omogućuje NeoMo Guardrailsu da sjedi na vrhu međusoftvera koji AI modeli već koriste, kao što je LangChain, koji već pruža okvir za to kako bi AI chatbotovi trebali komunicirati s korisnicima.
Osim što je open-source, Nvidia također nudi NeMo Guardrails kao dio svog Usluga AI Foundations. Ovaj paket pruža nekoliko unaprijed obučenih modela i okvira za tvrtke koje nemaju vremena ili resursa za obuku i održavanje vlastitih modela.
Preporuke urednika
- Evo zašto ljudi misle da bi GPT-4 s vremenom mogao postati gluplji
- ChatGPT: najnovije vijesti, kontroverze i savjeti koje trebate znati
- Što je DAN upit za ChatGPT?
- Wix koristi ChatGPT kako bi vam pomogao da brzo napravite cijelu web stranicu
- Google Bard sada može govoriti, ali može li ugušiti ChatGPT?
Nadogradite svoj životni stilDigitalni trendovi pomažu čitateljima da prate brzi svijet tehnologije sa svim najnovijim vijestima, zabavnim recenzijama proizvoda, pronicljivim uvodnicima i jedinstvenim brzim pregledima.
