تقدم Nvidia أداة NeMo Guardrails الجديدة لمطوري الذكاء الاصطناعي، وتعد بجعل روبوتات الدردشة المدعمة بالذكاء الاصطناعي مثلها ChatGPT فقط أقل جنونا قليلا. البرنامج مفتوح المصدر متاح للمطورين الآن، ويركز على ثلاثة مجالات لجعل روبوتات الدردشة المدعمة بالذكاء الاصطناعي أكثر فائدة وأقل إثارة للقلق.
تقع الأداة بين المستخدم ونموذج اللغة الكبير (LLM) الذي يتفاعلون معه. إنها أمان لروبوتات الدردشة، حيث تعترض الاستجابات قبل أن تصل إلى نموذج اللغة إما لمنع النموذج من الاستجابة أو لإعطائه تعليمات محددة حول كيفية الاستجابة.
تقول Nvidia إن NeMo Guardrails تركز على الحدود الموضعية والسلامة والأمن. يبدو أن التركيز الموضعي هو الأكثر فائدة، لأنه يجبر LLM على البقاء في نطاق معين من الاستجابات. قامت Nvidia بتجربة Guardrails من خلال عرض برنامج chatbot تم تدريبه على قاعدة بيانات الموارد البشرية الخاصة بالشركة. عندما تم طرح سؤال حول الشؤون المالية لشركة Nvidia، قدمت إجابة جاهزة تمت برمجتها باستخدام NeMo Guardrails.
متعلق ب
- يطالب كبار المؤلفين بالدفع من شركات الذكاء الاصطناعي مقابل استخدام أعمالهم
- GPT-4: كيفية استخدام chatbot AI الذي يضع ChatGPT في العار
- لا تريد Nvidia أن تعرف عن وحدة معالجة الرسومات الجديدة المثيرة للجدل
وهذا أمر مهم نظرًا للعديد من الهلوسة المزعومة التي رأيناها من روبوتات الدردشة التي تعمل بالذكاء الاصطناعي. دردشة مايكروسوفت بينج، على سبيل المثال، قدمت لنا عدة غريبة والاستجابات غير الصحيحة في العرض التوضيحي الأول. عند مواجهة سؤال لا يفهمه ماجستير إدارة الأعمال، فغالبًا ما يقوم بتكوين إجابة في محاولة لتلبية الاستعلام. تهدف NeMo Guardrails إلى وضع حد لتلك الاستجابات المختلقة.
مقاطع الفيديو الموصى بها
تركز مبادئ السلامة والأمن على تصفية الاستجابات غير المرغوب فيها من LLM ومنع المستخدمين من التلاعب بها. كما رأينا بالفعل، يمكنك ذلك الهروب من السجن ChatGPT وغيرها من روبوتات الدردشة المدعمة بالذكاء الاصطناعي. سوف تأخذ NeMo Guardrails هذه الاستفسارات وتمنعها من الوصول إلى LLM.
على الرغم من أن NeMo Guardrails قد تم تصميمه لإبقاء روبوتات الدردشة على دراية بالموضوع ودقيقة، إلا أنه ليس حلاً شاملاً. تقول Nvidia إنها تعمل بشكل أفضل كخط دفاع ثانٍ، وإن الشركات التي تقوم بتطوير ونشر روبوتات الدردشة يجب أن تقوم بتدريب النموذج على مجموعة من الضمانات.
يحتاج المطورون إلى تخصيص الأداة لتناسب تطبيقاتهم أيضًا. يتيح ذلك لـ NeoMo Guardrails أن تتفوق على البرامج الوسيطة التي تستخدمها نماذج الذكاء الاصطناعي بالفعل، مثل LangChain، والتي توفر بالفعل إطارًا لكيفية تفاعل روبوتات الدردشة المدعمة بالذكاء الاصطناعي مع المستخدمين.
بالإضافة إلى كونها مفتوحة المصدر، تقدم Nvidia أيضًا NeMo Guardrails كجزء من منتجاتها خدمة أسس الذكاء الاصطناعي. توفر هذه الحزمة العديد من النماذج والأطر المدربة مسبقًا للشركات التي ليس لديها الوقت أو الموارد اللازمة لتدريب نماذجها الخاصة وصيانتها.
توصيات المحررين
- لهذا السبب يعتقد الناس أن GPT-4 قد يصبح أكثر غباءً بمرور الوقت
- ChatGPT: آخر الأخبار والخلافات والنصائح التي تحتاج إلى معرفتها
- ما هي مطالبة DAN لـ ChatGPT؟
- يستخدم Wix ChatGPT لمساعدتك في إنشاء موقع ويب كامل بسرعة
- بإمكان Google Bard الآن التحدث، لكن هل يمكنه إخفاء ChatGPT؟
ترقية نمط حياتكتساعد الاتجاهات الرقمية القراء على متابعة عالم التكنولوجيا سريع الخطى من خلال أحدث الأخبار ومراجعات المنتجات الممتعة والمقالات الافتتاحية الثاقبة ونظرات خاطفة فريدة من نوعها.
