Nvidia predstavuje svoj nový nástroj NeMo Guardrails pre vývojárov AI a sľubuje, že AI chatboty budú ako ChatGPT len o niečo menej šialené. Softvér s otvoreným zdrojovým kódom je teraz k dispozícii vývojárom a zameriava sa na tri oblasti, aby boli chatboty AI užitočnejšie a menej znepokojujúce.
Nástroj je umiestnený medzi používateľom a modelom veľkého jazyka (LLM), s ktorým komunikujú. Je to bezpečnosť pre chatbotov, zachytenie odpovedí skôr, ako sa dostanú k jazykovému modelu, aby buď zastavili model reagovať, alebo mu dali konkrétne pokyny, ako reagovať.
Nvidia hovorí, že NeMo Guardrails sa zameriava na aktuálne, bezpečnostné a bezpečnostné hranice. Zdá sa, že aktuálne zameranie je najužitočnejšie, pretože núti LLM zostať v určitom rozsahu odpovedí. Nvidia demonštrovala Guardrails tým, že ukázala chatbota vyškoleného v databáze ľudských zdrojov spoločnosti. Keď bola položená otázka o financiách spoločnosti Nvidia, poskytla pripravenú odpoveď, ktorá bola naprogramovaná pomocou NeMo Guardrails.
Súvisiace
- Špičkoví autori požadujú od firiem AI platbu za používanie ich práce
- GPT-4: ako používať chatbota AI, ktorý robí ChatGPT hanbou
- Nvidia nechce, aby ste vedeli o jej kontroverznom novom GPU
Je to dôležité kvôli mnohým takzvaným halucináciám, ktoré sme videli u chatbotov AI. Rozhovor Bing od spoločnosti Microsoft, napríklad, nám poskytol niekoľko bizarných a fakticky nesprávne odpovede v našom prvom deme. Keď sa stretnete s otázkou, ktorej LLM nerozumie, často vymyslí odpoveď v snahe uspokojiť otázku. Cieľom NeMo Guardrails je zastaviť tieto vymyslené odpovede.
Odporúčané videá
Zásady bezpečnosti a zabezpečenia sa zameriavajú na odfiltrovanie nežiaducich odpovedí z LLM a na zabránenie tomu, aby sa s nimi používatelia pohrávali. Ako sme už videli, môžete útek z väzenia ChatGPT a ďalšie chatboty AI. NeMo Guardrails vezme tieto otázky a zablokuje ich, aby sa vôbec nedostali do LLM.
Aj keď sú NeMo Guardrails vytvorené tak, aby udržiavali chatboty aktuálne a presné, nie je to univerzálne riešenie. Nvidia tvrdí, že funguje najlepšie ako druhá obranná línia a že spoločnosti, ktoré vyvíjajú a nasadzujú chatboty, by mali tento model stále trénovať na súbore bezpečnostných opatrení.
Vývojári musia nástroj prispôsobiť aj ich aplikáciám. To umožňuje NeoMo Guardrails sedieť na vrchole midlvéru, ktorý už modely AI používajú, ako napríklad LangChain, ktorý už poskytuje rámec na to, ako by chatboty AI mali interagovať s používateľmi.
Okrem toho, že je to open-source, Nvidia ponúka ako súčasť aj NeMo Guardrails Služba AI Foundations. Tento balík poskytuje niekoľko vopred pripravených modelov a rámcov pre spoločnosti, ktoré nemajú čas ani zdroje na trénovanie a udržiavanie vlastných modelov.
Odporúčania redaktorov
- Tu je dôvod, prečo si ľudia myslia, že GPT-4 môže byť časom hlúpejší
- ChatGPT: najnovšie správy, kontroverzie a tipy, ktoré potrebujete vedieť
- Čo je výzva DAN pre ChatGPT?
- Wix používa ChatGPT, ktorý vám pomôže rýchlo vytvoriť celý web
- Google Bard teraz môže hovoriť, ale dokáže prehlušiť ChatGPT?
Zlepšite svoj životný štýlDigitálne trendy pomáhajú čitateľom mať prehľad o rýchlo sa rozvíjajúcom svete technológií so všetkými najnovšími správami, zábavnými recenziami produktov, užitočnými úvodníkmi a jedinečnými ukážkami.
