Nvidia predstavlja svoje novo orodje NeMo Guardrails za razvijalce umetne inteligence in obljublja, da bo klepetalne robote z umetno inteligenco naredila kot ChatGPT samo malo manj noro. Odprtokodna programska oprema je zdaj na voljo razvijalcem in se osredotoča na tri področja, da bi klepetalne robote AI naredili bolj uporabne in manj vznemirljive.
Orodje se nahaja med uporabnikom in velikim jezikovnim modelom (LLM), s katerim komunicira. To je varnost za chatbote, ki prestrežejo odgovore, preden sploh dosežejo jezikovni model, da bodisi ustavijo odziv modela bodisi mu dajo posebna navodila, kako naj se odzove.
Nvidia pravi, da je NeMo Guardrails osredotočen na aktualne, varnostne in varnostne meje. Tematska osredotočenost se zdi najbolj uporabna, saj prisili LLM, da ostane v določenem obsegu odgovorov. Nvidia je Guardrails predstavila tako, da je prikazala klepetalnega robota, usposobljenega za kadrovsko bazo podjetja. Na vprašanje o Nvidiinih financah je dala pripravljen odgovor, ki je bil programiran z NeMo Guardrails.
Povezano
- Najboljši avtorji zahtevajo plačilo od podjetij AI za uporabo njihovega dela
- GPT-4: kako uporabljati klepetalni robot AI, ki osramoti ChatGPT
- Nvidia ne želi, da bi vedeli za njen kontroverzni novi grafični procesor
To je pomembno zaradi številnih tako imenovanih halucinacij, ki smo jih videli pri klepetalnih robotih AI. Microsoftov Bing Chat, na primer, nam je ponudil več bizarnih in dejansko napačni odgovori v naši prvi predstavitvi. Ko se sooči z vprašanjem, ki ga LLM ne razume, si bo pogosto izmislil odgovor, da bi ugodil poizvedbi. NeMo Guardrails želi ustaviti te izmišljene odzive.
Priporočeni videoposnetki
Varnostna načela se osredotočajo na filtriranje neželenih odzivov LLM in preprečevanje, da bi se uporabniki z njim poigravali. Kot smo že videli, lahko pobeg iz zapora ChatGPT in drugi klepetalni roboti AI. NeMo Guardrails bo prevzel te poizvedbe in jim preprečil, da bi kdaj dosegle LLM.
Čeprav je NeMo Guardrails ustvarjen tako, da klepetalne robote ohranja na temi in so natančni, ni vseobsegajoča rešitev. Nvidia pravi, da najbolje deluje kot druga obrambna linija in da bi morala podjetja, ki razvijajo in uvajajo klepetalne robote, še vedno usposobiti model za niz zaščitnih ukrepov.
Tudi razvijalci morajo prilagoditi orodje, da bo ustrezalo njihovim aplikacijam. To omogoča NeoMo Guardrails, da sedi na vrhu vmesne programske opreme, ki jo modeli AI že uporabljajo, kot je LangChain, ki že zagotavlja okvir za to, kako naj bi klepetalni roboti AI komunicirali z uporabniki.
Poleg tega, da je odprtokodna, Nvidia ponuja tudi NeMo Guardrails kot del svojega Storitev AI Foundations. Ta paket ponuja več vnaprej usposobljenih modelov in ogrodij za podjetja, ki nimajo časa ali sredstev za usposabljanje in vzdrževanje lastnih modelov.
Priporočila urednikov
- Zato ljudje mislijo, da GPT-4 sčasoma postaja vse bolj neumen
- ChatGPT: najnovejše novice, polemike in nasveti, ki jih morate vedeti
- Kaj je DAN poziv za ChatGPT?
- Wix uporablja ChatGPT, da vam pomaga hitro zgraditi celotno spletno mesto
- Google Bard lahko zdaj govori, a ali lahko preglasi ChatGPT?
Nadgradite svoj življenjski slogDigitalni trendi bralcem pomagajo slediti hitremu svetu tehnologije z vsemi najnovejšimi novicami, zabavnimi ocenami izdelkov, pronicljivimi uvodniki in enkratnimi vpogledi v vsebine.
