Η Nvidia παρουσιάζει το νέο της εργαλείο NeMo Guardrails για προγραμματιστές τεχνητής νοημοσύνης και υπόσχεται να κάνει chatbots AI όπως ChatGPT λίγο λιγότερο τρελός. Το λογισμικό ανοιχτού κώδικα είναι διαθέσιμο στους προγραμματιστές τώρα και εστιάζει σε τρεις τομείς για να κάνει τα chatbot AI πιο χρήσιμα και λιγότερο ανησυχητικά.
Το εργαλείο βρίσκεται μεταξύ του χρήστη και του μοντέλου μεγάλης γλώσσας (LLM) με το οποίο αλληλεπιδρά. Είναι μια ασφάλεια για τα chatbot, τα οποία παρεμποδίζουν τις απαντήσεις προτού φτάσουν στο μοντέλο γλώσσας είτε για να σταματήσουν να ανταποκρίνονται το μοντέλο είτε για να του δώσουν συγκεκριμένες οδηγίες σχετικά με τον τρόπο απόκρισης.
Η Nvidia λέει ότι το NeMo Guardrails επικεντρώνεται σε τοπικά όρια και όρια ασφάλειας. Η επίκαιρη εστίαση φαίνεται να είναι η πιο χρήσιμη, καθώς αναγκάζει το LLM να παραμείνει σε ένα συγκεκριμένο φάσμα απαντήσεων. Η Nvidia παρουσίασε το Guardrails δείχνοντας ένα chatbot εκπαιδευμένο στη βάση δεδομένων HR της εταιρείας. Όταν τέθηκε μια ερώτηση σχετικά με τα οικονομικά της Nvidia, έδωσε μια κονσέρβα απάντηση που είχε προγραμματιστεί με το NeMo Guardrails.
Σχετίζεται με
- Οι κορυφαίοι συγγραφείς απαιτούν πληρωμή από εταιρείες τεχνητής νοημοσύνης για τη χρήση του έργου τους
- GPT-4: πώς να χρησιμοποιήσετε το chatbot AI που κάνει το ChatGPT σε ντροπή
- Η Nvidia δεν θέλει να γνωρίζετε για την αμφιλεγόμενη νέα GPU της
Αυτό είναι σημαντικό λόγω των πολλών λεγόμενων παραισθήσεων που έχουμε δει από τα chatbot AI. Το Bing Chat της Microsoft, για παράδειγμα, μας παρείχε αρκετά περίεργα και λανθασμένες απαντήσεις στην πρώτη μας επίδειξη. Όταν αντιμετωπίζετε μια ερώτηση που το LLM δεν κατανοεί, συχνά δημιουργεί μια απάντηση σε μια προσπάθεια να ικανοποιήσει το ερώτημα. Το NeMo Guardrails στοχεύει να βάλει τέλος σε αυτές τις επινοημένες απαντήσεις.
Προτεινόμενα βίντεο
Οι αρχές ασφάλειας και ασφάλειας επικεντρώνονται στο φιλτράρισμα των ανεπιθύμητων απαντήσεων από το LLM και στην αποτροπή του παιχνιδιού από τους χρήστες. Όπως έχουμε ήδη δει, μπορείτε jailbreak ChatGPT και άλλα chatbots AI. Το NeMo Guardrails θα λάβει αυτά τα ερωτήματα και θα τα εμποδίσει να φτάσουν ποτέ στο LLM.
Παρόλο που τα NeMo Guardrails έχουν κατασκευαστεί για να διατηρούν τα chatbot επίκαιρα και ακριβή, δεν είναι μια ολοκληρωμένη λύση. Η Nvidia λέει ότι λειτουργεί καλύτερα ως δεύτερη γραμμή άμυνας και ότι οι εταιρείες που αναπτύσσουν και αναπτύσσουν chatbots θα πρέπει να εξακολουθήσουν να εκπαιδεύουν το μοντέλο σε ένα σύνολο διασφαλίσεων.
Οι προγραμματιστές πρέπει επίσης να προσαρμόσουν το εργαλείο ώστε να ταιριάζει στις εφαρμογές τους. Αυτό επιτρέπει στο NeoMo Guardrails να βρίσκεται πάνω από το ενδιάμεσο λογισμικό που χρησιμοποιούν ήδη τα μοντέλα τεχνητής νοημοσύνης, όπως το LangChain, το οποίο ήδη παρέχει ένα πλαίσιο για τον τρόπο με τον οποίο τα chatbot AI υποτίθεται ότι αλληλεπιδρούν με τους χρήστες.
Εκτός από το ότι είναι ανοιχτού κώδικα, η Nvidia προσφέρει επίσης NeMo Guardrails ως μέρος της Υπηρεσία AI Foundations. Αυτό το πακέτο παρέχει πολλά προεκπαιδευμένα μοντέλα και πλαίσια για εταιρείες που δεν έχουν το χρόνο ή τους πόρους να εκπαιδεύσουν και να διατηρήσουν τα δικά τους μοντέλα.
Συστάσεις των συντακτών
- Να γιατί οι άνθρωποι πιστεύουν ότι το GPT-4 μπορεί να γίνεται πιο χαζό με την πάροδο του χρόνου
- ChatGPT: τα τελευταία νέα, οι διαμάχες και οι συμβουλές που πρέπει να γνωρίζετε
- Τι είναι μια προτροπή DAN για το ChatGPT;
- Το Wix χρησιμοποιεί το ChatGPT για να σας βοηθήσει να δημιουργήσετε γρήγορα έναν ολόκληρο ιστότοπο
- Το Google Bard μπορεί τώρα να μιλήσει, αλλά μπορεί να πνίξει το ChatGPT;
Αναβαθμίστε τον τρόπο ζωής σαςΤο Digital Trends βοηθά τους αναγνώστες να παρακολουθούν τον γρήγορο κόσμο της τεχνολογίας με όλα τα τελευταία νέα, διασκεδαστικές κριτικές προϊόντων, διορατικά editorial και μοναδικές κρυφές ματιές.
