Nvidia tutvustab oma uut tööriista NeMo Guardrails AI arendajatele ja lubab teha AI-vestlusbotid, nagu ChatGPT lihtsalt natuke vähem hull. Avatud lähtekoodiga tarkvara on nüüd arendajatele saadaval ja see keskendub kolmele valdkonnale, et muuta AI-vestlusbotid kasulikumaks ja vähem häirivaks.
Tööriist asub kasutaja ja suure keelemudeli (LLM) vahel, millega nad suhtlevad. See on vestlusrobotite turvalisus, mis peatab vastused enne keelemudelini jõudmist, et peatada mudelil reageerimast või anda talle konkreetseid juhiseid reageerimise kohta.
Nvidia ütleb, et NeMo Guardrails keskendub aktuaalsetele, ohutus- ja turvapiiridele. Aktuaalne fookus näib olevat kõige kasulikum, kuna see sunnib LLM-i jääma teatud vastuste hulka. Nvidia demonstreeris Guardrailsit, näidates ettevõtte personaliandmebaasis treenitud vestlusrobotit. Kui küsiti küsimust Nvidia rahanduse kohta, andis see konserveeritud vastuse, mis oli programmeeritud NeMo Guardrailsiga.
Seotud
- Tippautorid nõuavad tehisintellektifirmadelt nende töö kasutamise eest tasu
- GPT-4: kuidas kasutada AI-vestlusbotit, mis teeb ChatGPT-le häbi
- Nvidia ei taha, et te teaksite selle vastuolulisest uuest GPU-st
See on oluline paljude niinimetatud hallutsinatsioonide tõttu, mida oleme AI-vestlusbotite puhul näinud. Microsofti Bingi vestlus, näiteks, andis meile mitu veidrat ja faktiliselt valed vastused meie esimeses demos. Kui seisate silmitsi küsimusega, millest LLM aru ei saa, annab see sageli vastuse, püüdes päringut rahuldada. NeMo Guardrailsi eesmärk on need väljamõeldud vastused peatada.
Soovitatavad videod
Ohutus- ja turvapõhimõtted keskenduvad LLM-i soovimatute vastuste välja filtreerimisele ja kasutajate poolt sellega mängimise vältimisele. Nagu me juba nägime, saate seda teha jailbreak ChatGPT ja muud AI vestlusbotid. NeMo Guardrails võtab need päringud vastu ja blokeerib nende jõudmise LLM-i.
Kuigi NeMo kaitsepiirded on ehitatud nii, et vestlusrobotid oleksid teemas ja täpsed, ei ole see kõikehõlmav lahendus. Nvidia sõnul toimib see kõige paremini teise kaitseliinina ning vestlusroboteid arendavad ja juurutavad ettevõtted peaksid mudelit siiski kaitsma.
Ka arendajad peavad tööriista kohandama, et see sobiks ka nende rakendustega. See võimaldab NeoMo Guardrailsil kasutada vahevara, mida AI mudelid juba kasutavad, näiteks LangChain, mis juba pakub raamistikku AI vestlusrobotite jaoks kasutajatega suhtlemiseks.
Lisaks sellele, et Nvidia on avatud lähtekoodiga, pakub see osana ka NeMo kaitsepiirdeid AI Foundationsi teenus. See pakett pakub mitmeid eelkoolitatud mudeleid ja raamistikke ettevõtetele, kellel pole aega ega ressursse oma mudelite koolitamiseks ja hooldamiseks.
Toimetajate soovitused
- Siin on põhjus, miks inimesed arvavad, et GPT-4 võib aja jooksul muutuda lollimaks
- ChatGPT: viimased uudised, vaidlused ja näpunäited, mida peate teadma
- Mis on DAN-i viip ChatGPT jaoks?
- Wix kasutab ChatGPT-d, mis aitab teil kiiresti terve veebisaidi luua
- Google Bard saab nüüd rääkida, kuid kas see võib ChatGPT-d välja uputada?
Uuenda oma elustiiliDigitaalsed suundumused aitavad lugejatel hoida silma peal kiirel tehnikamaailmal kõigi viimaste uudiste, lõbusate tooteülevaadete, sisukate juhtkirjade ja ainulaadsete lühiülevaadetega.
