Nvidia sta introducendo il suo nuovo strumento NeMo Guardrails per gli sviluppatori di intelligenza artificiale e promette di rendere i chatbot di intelligenza artificiale simili ChatGPT solo un po' meno pazzo. Il software open source è ora disponibile per gli sviluppatori e si concentra su tre aree per rendere i chatbot AI più utili e meno inquietanti.
Lo strumento si trova tra l'utente e il Large Language Model (LLM) con cui sta interagendo. È una sicurezza per i chatbot, intercettare le risposte prima che raggiungano il modello linguistico per impedire al modello di rispondere o per dargli istruzioni specifiche su come rispondere.
Nvidia afferma che NeMo Guardrails si concentra su limiti di attualità, sicurezza e protezione. Il focus topico sembra essere il più utile, poiché costringe il LLM a rimanere in una particolare gamma di risposte. Nvidia ha presentato Guardrails mostrando un chatbot addestrato sul database delle risorse umane dell'azienda. Quando è stata posta una domanda sulle finanze di Nvidia, ha dato una risposta predefinita programmata con NeMo Guardrails.
Imparentato
- Gli autori più importanti richiedono un pagamento alle aziende di intelligenza artificiale per l’utilizzo del loro lavoro
- GPT-4: come utilizzare il chatbot AI che fa vergognare ChatGPT
- Nvidia non vuole che tu sappia della sua controversa nuova GPU
Ciò è importante a causa delle numerose cosiddette allucinazioni che abbiamo visto nei chatbot IA. Bing Chat di Microsoft, Per esempio, ci ha fornito diverse bizzarrie e risposte effettivamente errate nella nostra prima demo. Di fronte a una domanda che il LLM non capisce, spesso crea una risposta nel tentativo di soddisfare la domanda. NeMo Guardrails mira a porre fine a queste risposte inventate.
Video consigliati
I principi di sicurezza e protezione si concentrano sul filtraggio delle risposte indesiderate da LLM e sulla prevenzione che vengano giocate dagli utenti. Come abbiamo già visto, puoi jailbreak ChatGPT e altri chatbot IA. NeMo Guardrails prenderà queste domande e impedirà loro di raggiungere il LLM.
Sebbene NeMo Guardrails sia stato creato per mantenere i chatbot aggiornati e accurati, non è una soluzione universale. Nvidia afferma che funziona meglio come seconda linea di difesa e che le aziende che sviluppano e distribuiscono chatbot dovrebbero comunque addestrare il modello su una serie di misure di salvaguardia.
Anche gli sviluppatori devono personalizzare lo strumento per adattarlo alle loro applicazioni. Ciò consente a NeoMo Guardrails di posizionarsi sopra il middleware già utilizzato dai modelli di intelligenza artificiale, come LangChain, che fornisce già un quadro per il modo in cui i chatbot di intelligenza artificiale dovrebbero interagire con gli utenti.
Oltre ad essere open source, Nvidia offre anche NeMo Guardrails come parte del suo Servizio Fondazioni AI. Questo pacchetto fornisce diversi modelli e framework preaddestrati per le aziende che non hanno il tempo o le risorse per addestrare e mantenere i propri modelli.
Raccomandazioni degli editori
- Ecco perché le persone pensano che GPT-4 potrebbe diventare più stupido nel tempo
- ChatGPT: le ultime novità, controversie e consigli che devi sapere
- Cos'è un prompt DAN per ChatGPT?
- Wix utilizza ChatGPT per aiutarti a creare rapidamente un intero sito web
- Google Bard ora può parlare, ma può soffocare ChatGPT?
Migliora il tuo stile di vitaDigital Trends aiuta i lettori a tenere d'occhio il frenetico mondo della tecnologia con tutte le ultime notizie, divertenti recensioni di prodotti, editoriali approfonditi e anteprime uniche nel loro genere.
