„Nvidia“ pristato savo naują „NeMo Guardrails“ įrankį AI kūrėjams ir žada, kad AI pokalbių robotai, tokie kaip ChatGPT tik šiek tiek mažiau beprotiška. Atvirojo kodo programinė įranga dabar yra prieinama kūrėjams ir sutelkta į tris sritis, kad dirbtinio intelekto pokalbių robotai būtų naudingesni ir mažiau nerimą keliantys.
Įrankis yra tarp vartotojo ir didelės kalbos modelio (LLM), su kuriuo jie bendrauja. Tai yra pokalbių robotų sauga, jie perima atsakymus dar jiems nepasiekus kalbos modelio, kad sustabdytų modelio atsakymą arba pateiktų konkrečias instrukcijas, kaip reaguoti.
„Nvidia“ teigia, kad „NeMo Guardrails“ orientuojasi į aktualias, saugos ir saugumo ribas. Atrodo, kad aktualus dėmesys yra naudingiausias, nes jis verčia LLM likti tam tikrame atsakymų diapazone. „Nvidia“ demonstravo „Guardrails“ parodydama pokalbių robotą, apmokytą įmonės personalo duomenų bazėje. Kai buvo užduotas klausimas apie „Nvidia“ finansus, jis atsakė, kad buvo užprogramuotas „NeMo Guardrails“.
Susijęs
- Geriausi autoriai reikalauja iš dirbtinio intelekto įmonių atlyginimo už naudojimąsi jų darbu
- GPT-4: kaip naudoti AI pokalbių robotą, dėl kurio „ChatGPT“ daroma gėda
- „Nvidia“ nenori, kad jūs žinotumėte apie prieštaringai vertinamą naują GPU
Tai svarbu dėl daugybės vadinamųjų haliucinacijų, kurias matėme iš AI pokalbių robotų. „Microsoft“ „Bing Chat“., pavyzdžiui, pateikė mums keletą keistų dalykų ir faktiškai neteisingi atsakymai mūsų pirmojoje demonstracijoje. Kai susiduria su klausimu, kurio LLM nesupranta, jis dažnai pateikia atsakymą, bandydamas patenkinti užklausą. „NeMo Guardrails“ siekia sustabdyti šiuos sugalvotus atsakymus.
Rekomenduojami vaizdo įrašai
Saugos ir saugumo principai yra skirti išfiltruoti nepageidaujamus LLM atsakymus ir neleisti, kad vartotojai su jais žaistų. Kaip jau matėme, galite jailbreak ChatGPT ir kiti AI pokalbių robotai. „NeMo Guardrails“ imsis šių užklausų ir neleis jiems pasiekti LLM.
Nors „NeMo Guardrails“ buvo sukurtas taip, kad pokalbių robotai būtų aktualūs ir tikslūs, tai nėra universalus sprendimas. „Nvidia“ teigia, kad ji geriausiai veikia kaip antroji gynybos linija, o įmonės, kuriančios ir diegiančios pokalbių robotus, vis tiek turėtų parengti modelį, kaip naudoti apsaugos priemones.
Kūrėjai taip pat turi pritaikyti įrankį, kad jis atitiktų jų programas. Tai leidžia „NeoMo Guardrails“ sėdėti ant tarpinės programinės įrangos, kurią jau naudoja AI modeliai, pvz., „LangChain“, kuri jau suteikia pagrindą, kaip AI pokalbių robotai turėtų sąveikauti su vartotojais.
Be atvirojo kodo, „Nvidia“ taip pat siūlo „NeMo Guardrails“ kaip savo dalį AI fondų paslauga. Šiame pakete pateikiami keli iš anksto parengti modeliai ir sistemos įmonėms, kurios neturi laiko ar išteklių apmokyti ir prižiūrėti savo modelius.
Redaktorių rekomendacijos
- Štai kodėl žmonės mano, kad laikui bėgant GPT-4 gali tapti kvailesnis
- ChatGPT: naujausios naujienos, ginčai ir patarimai, kuriuos turite žinoti
- Kas yra „ChatGPT“ DAN raginimas?
- „Wix“ naudoja „ChatGPT“, kad padėtų greitai sukurti visą svetainę
- „Google Bard“ dabar gali kalbėti, bet ar gali užgožti „ChatGPT“?
Atnaujinkite savo gyvenimo būdąSkaitmeninės tendencijos padeda skaitytojams stebėti sparčiai besivystantį technologijų pasaulį – pateikiamos visos naujausios naujienos, smagios produktų apžvalgos, įžvalgūs vedamieji leidiniai ir unikalūs žvilgsniai.
