Nvidia esittelee uuden NeMo Guardrails -työkalunsa tekoälykehittäjille, ja se lupaa tehdä AI-chatboteista, kuten ChatGPT vain vähän vähemmän hullua. Avoimen lähdekoodin ohjelmisto on nyt kehittäjien saatavilla, ja se keskittyy kolmeen alueeseen tehdäkseen tekoäly-chatboteista hyödyllisempiä ja vähemmän huolestuttavia.
Työkalu sijaitsee käyttäjän ja suuren kielimallin (LLM) välissä, jonka kanssa hän on vuorovaikutuksessa. Se on turva chatboteille, sieppaamalla vastaukset ennen kuin ne pääsevät kielimalliin joko pysäyttämään mallia vastaamasta tai antamaan sille erityisiä ohjeita siitä, kuinka vastata.
Nvidia sanoo, että NeMo Guardrails keskittyy ajankohtaisiin, turvallisuus- ja turvallisuusrajoihin. Ajankohtaistaminen näyttää olevan hyödyllisin, koska se pakottaa LLM: n pysymään tietyllä vastausalueella. Nvidia esitteli Guardrailsia näyttämällä chatbotin, joka on koulutettu yrityksen HR-tietokantaan. Kun Nvidian taloutta koskeva kysymys kysyttiin, se antoi tiivistetyn vastauksen, joka oli ohjelmoitu NeMo Guardrailsilla.
Liittyvät
- Huippukirjailijat vaativat tekoälyyrityksiltä maksua työnsä käytöstä
- GPT-4: kuinka käyttää AI-chatbotia, joka saa ChatGPT: n häpeään
- Nvidia ei halua sinun tietävän kiistanalaisesta uudesta GPU: staan
Tämä on tärkeää monien niin sanottujen hallusinaatioiden vuoksi, joita olemme nähneet AI-chatboteista. Microsoftin Bing Chat, esimerkiksi, tarjosi meille useita outoja ja tosiasiallisesti vääriä vastauksia ensimmäisessä esittelyssämme. Kun LLM kohtaa kysymyksen, jota LLM ei ymmärrä, se muodostaa usein vastauksen yrittääkseen vastata kyselyyn. NeMo Guardrails pyrkii pysäyttämään nämä keksityt vastaukset.
Suositellut videot
Turvallisuusperiaatteet keskittyvät suodattamaan LLM: n ei-toivotut vastaukset ja estämään käyttäjiä leikkimästä sillä. Kuten olemme jo nähneet, voit jailbreak ChatGPT ja muut AI chatbotit. NeMo Guardrails ottaa nämä kyselyt vastaan ja estää niitä koskaan saavuttamasta LLM: ää.
Vaikka NeMo Guardrails on rakennettu pitämään chatbotit ajan tasalla ja tarkkoja, se ei ole kattava ratkaisu. Nvidia sanoo, että se toimii parhaiten toisena puolustuslinjana ja että chatbotteja kehittävien ja käyttöön ottavien yritysten tulisi silti kouluttaa mallia suojatoimiin.
Myös kehittäjien on mukautettava työkalu sovelluksiinsa sopivaksi. Tämän ansiosta NeoMo Guardrails voi istua AI-mallien jo käyttämien väliohjelmistojen päällä, kuten LangChain, joka tarjoaa jo puitteet AI-chatbottien vuorovaikutukseen käyttäjien kanssa.
Avoimen lähdekoodin lisäksi Nvidia tarjoaa myös NeMo Guardraileja osana AI Foundations -palvelu. Tämä paketti tarjoaa useita valmiiksi koulutettuja malleja ja puitteita yrityksille, joilla ei ole aikaa tai resursseja kouluttaa ja ylläpitää omia mallejaan.
Toimittajien suositukset
- Tästä syystä ihmiset ajattelevat, että GPT-4 saattaa muuttua tyhmemmäksi ajan myötä
- ChatGPT: viimeisimmät uutiset, kiistat ja vinkit, jotka sinun on tiedettävä
- Mikä on DAN-kehote ChatGPT: lle?
- Wix käyttää ChatGPT: tä auttaakseen sinua rakentamaan nopeasti koko verkkosivuston
- Google Bard voi nyt puhua, mutta voiko se tukahduttaa ChatGPT: n?
Päivitä elämäntapasiDigital Trends auttaa lukijoita pysymään tekniikan nopeatempoisessa maailmassa uusimpien uutisten, hauskojen tuotearvostelujen, oivaltavien toimitusten ja ainutlaatuisten kurkistusten avulla.
