Nvidia מציגה את הכלי החדש שלה NeMo Guardrails למפתחי בינה מלאכותית, והיא מבטיחה ליצור צ'אטבוטים של AI כמו ChatGPT רק קצת פחות מטורף. תוכנת הקוד הפתוח זמינה למפתחים כעת, והיא מתמקדת בשלושה תחומים כדי להפוך צ'אטבוטים של AI לשימושיים יותר ופחות מטרידים.
הכלי יושב בין המשתמש לבין מודל השפה הגדול (LLM) איתו הוא מקיים אינטראקציה. זהו בטיחות עבור צ'אטבוטים, מיירט תגובות לפני שהם מגיעים אי פעם למודל השפה כדי למנוע מהמודל להגיב או לתת לו הנחיות ספציפיות כיצד להגיב.
Nvidia אומרת כי NeMo Guardrails מתמקדת בגבולות אקטואליים, בטיחותיים ואבטחים. נראה שהמיקוד האקטואלי הוא השימושי ביותר, מכיוון שהוא מאלץ את ה-LLM להישאר בטווח מסוים של תגובות. Nvidia הדגימה את Guardrails על ידי הצגת צ'טבוט מאומן במסד הנתונים של HR של החברה. כשנשאלה שאלה לגבי הכספים של Nvidia, היא נתנה תגובה משומרת שתוכנתה עם NeMo Guardrails.
קָשׁוּר
- מחברים מובילים דורשים תשלום מחברות בינה מלאכותית על השימוש בעבודתם
- GPT-4: איך להשתמש בצ'אט בוט הבינה המלאכותית שמביישת את ChatGPT
- Nvidia לא רוצה שתדע על ה-GPU החדש השנוי במחלוקת שלה
זה חשוב בגלל ההזיות הרבות שראינו מצ'טבוטים של AI. Bing Chat של מיקרוסופט, לדוגמה, סיפק לנו כמה מוזרים ותגובות שגויות עובדתית בהדגמה הראשונה שלנו. כאשר עומדים בפני שאלה שה-LLM אינו מבין, הוא לרוב ימציא תשובה בניסיון לספק את השאילתה. NeMo Guardrails שואפת לעצור את התגובות המומצאות הללו.
סרטונים מומלצים
עקרונות הבטיחות והאבטחה מתמקדים בסינון תגובות לא רצויות מה-LLM ומניעת הצעצוע של המשתמשים. כפי שכבר ראינו, אתה יכול jailbreak ChatGPT וצ'אטבוטים אחרים של AI. NeMo Guardrails ייקח את השאילתות האלה ויחסום אותם מלהגיע אי פעם ל-LLM.
למרות שמעקות הבטיחות של NeMo נבנו כדי לשמור על צ'אט בוטים על הנושא והמדויק, זה לא פתרון כולל. Nvidia אומרת שהיא עובדת בצורה הטובה ביותר כקו הגנה שני, ושחברות שמפתחות ופריסה של צ'אטבוטים עדיין צריכות לאמן את המודל על מערכת אמצעי הגנה.
מפתחים צריכים להתאים אישית את הכלי כך שיתאים גם ליישומים שלהם. זה מאפשר ל-NeoMo Guardrails לשבת על תוכנת הביניים שבה דגמי AI כבר משתמשים, כמו LangChain, שכבר מספקת מסגרת לאופן שבו צ'טבוטים של AI אמורים לקיים אינטראקציה עם משתמשים.
בנוסף להיותה קוד פתוח, Nvidia מציעה גם מעילות בטיחות של NeMo כחלק ממנו שירות AI Foundations. חבילה זו מספקת מספר מודלים ומסגרות שהוכשרו מראש לחברות שאין להן זמן או משאבים להכשיר ולתחזק מודלים משלהן.
המלצות עורכים
- זו הסיבה שאנשים חושבים ש-GPT-4 עשוי להיות מטומטם יותר עם הזמן
- ChatGPT: החדשות האחרונות, המחלוקות והטיפים שאתה צריך לדעת
- מהי בקשת DAN עבור ChatGPT?
- Wix משתמשת ב-ChatGPT כדי לעזור לך לבנות במהירות אתר שלם
- Google Bard יכול עכשיו לדבר, אבל האם הוא יכול להטביע את ChatGPT?
שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.
