Nvidia Guardrails แก้ไขปัญหาใหญ่กับแชทบอท AI

Nvidia กำลังเปิดตัวเครื่องมือ NeMo Guardrails ใหม่สำหรับนักพัฒนา AI และสัญญาว่าจะทำให้ AI chatbots เป็นเหมือน ChatGPT แค่บ้าน้อยลงนิดหน่อย ซอฟต์แวร์โอเพ่นซอร์สพร้อมใช้งานสำหรับนักพัฒนาแล้วในขณะนี้ และมุ่งเน้นไปที่สามด้านเพื่อทำให้แชทบอท AI มีประโยชน์มากขึ้นและไม่มั่นคงน้อยลง

เครื่องมือนี้ตั้งอยู่ระหว่างผู้ใช้กับ Large Language Model (LLM) ที่พวกเขากำลังโต้ตอบด้วย ถือเป็นความปลอดภัยสำหรับแชทบอต โดยสกัดกั้นการตอบสนองก่อนที่จะถึงโมเดลภาษา เพื่อหยุดโมเดลไม่ให้ตอบสนองหรือให้คำแนะนำเฉพาะเกี่ยวกับวิธีการตอบสนอง

Nvidia กล่าวว่า NeMo Guardrails มุ่งเน้นไปที่ขอบเขตเฉพาะ ความปลอดภัย และความปลอดภัย การมุ่งเน้นเฉพาะหัวข้อดูเหมือนจะมีประโยชน์มากที่สุด เนื่องจากเป็นการบังคับให้ LLM อยู่ในช่วงการตอบสนองเฉพาะ Nvidia สาธิต Guardrails โดยแสดงแชทบอทที่ได้รับการฝึกอบรมเกี่ยวกับฐานข้อมูลทรัพยากรบุคคลของบริษัท เมื่อถามคำถามเกี่ยวกับการเงินของ Nvidia ก็ให้คำตอบสำเร็จรูปที่ตั้งโปรแกรมไว้ด้วย NeMo Guardrails

นี่เป็นสิ่งสำคัญเนื่องจากมีสิ่งที่เรียกว่าภาพหลอนหลายอย่างที่เราเคยเห็นจากแชทบอท AI Bing Chat ของ Microsoft, ตัวอย่างเช่น, ทำให้เรามีสิ่งแปลกประหลาดหลายอย่าง และการตอบกลับที่ไม่ถูกต้องตามข้อเท็จจริงในการสาธิตครั้งแรกของเรา เมื่อต้องเผชิญกับคำถามที่ LLM ไม่เข้าใจ มักจะสร้างคำตอบขึ้นมาเพื่อพยายามตอบคำถาม NeMo Guardrails มีเป้าหมายที่จะหยุดการตอบสนองที่ถูกสร้างขึ้นมาเหล่านั้น

หลักความปลอดภัยและการรักษาความปลอดภัยมุ่งเน้นไปที่การกรองการตอบสนองที่ไม่พึงประสงค์ออกจาก LLM และป้องกันไม่ให้ผู้ใช้ล้อเล่นกับมัน ดังที่เราได้เห็นแล้วว่าคุณสามารถทำได้ การเจลเบรค ChatGPT และแชทบอท AI อื่นๆ NeMo Guardrails จะรับคำถามเหล่านั้นและบล็อกไม่ให้เข้าถึง LLM

แม้ว่า NeMo Guardrails สร้างขึ้นเพื่อให้แชทบอทตรงประเด็นและแม่นยำ แต่ก็ไม่ใช่วิธีแก้ปัญหาที่ครอบคลุม Nvidia กล่าวว่ามันทำงานได้ดีที่สุดในฐานะแนวป้องกันที่สอง และบริษัทที่พัฒนาและปรับใช้แชทบอทควรยังคงฝึกโมเดลนี้บนชุดการป้องกัน

นักพัฒนาจำเป็นต้องปรับแต่งเครื่องมือให้เหมาะกับแอปพลิเคชันของตนด้วย สิ่งนี้ทำให้ NeoMo Guardrails สามารถวางทับมิดเดิลแวร์ที่โมเดล AI ใช้อยู่แล้ว เช่น LangChain ซึ่งมีกรอบการทำงานสำหรับวิธีที่แชทบอท AI ควรโต้ตอบกับผู้ใช้อยู่แล้ว

นอกเหนือจากการเป็นโอเพ่นซอร์สแล้ว Nvidia ยังเสนอ NeMo Guardrails เป็นส่วนหนึ่งของมันอีกด้วย บริการมูลนิธิเอไอ. แพ็คเกจนี้มีโมเดลและเฟรมเวิร์กที่ได้รับการฝึกอบรมล่วงหน้ามากมายสำหรับบริษัทที่ไม่มีเวลาหรือทรัพยากรในการฝึกอบรมและบำรุงรักษาโมเดลของตนเอง

คำแนะนำของบรรณาธิการ

• นี่คือสาเหตุที่ผู้คนคิดว่า GPT-4 อาจจะโง่ลงเมื่อเวลาผ่านไป
• ChatGPT: ข่าวสารล่าสุด ข้อโต้แย้ง และเคล็ดลับที่คุณต้องรู้
• พรอมต์ DAN สำหรับ ChatGPT คืออะไร
• Wix ใช้ ChatGPT เพื่อช่วยคุณสร้างเว็บไซต์ทั้งหมดได้อย่างรวดเร็ว
• Google Bard สามารถพูดได้แล้ว แต่จะทำให้ ChatGPT จมหายไปได้หรือไม่

อัพเกรดไลฟ์สไตล์ของคุณDigital Trends ช่วยให้ผู้อ่านติดตามโลกแห่งเทคโนโลยีที่เปลี่ยนแปลงไปอย่างรวดเร็วด้วยข่าวสารล่าสุด รีวิวผลิตภัณฑ์สนุกๆ บทบรรณาธิการที่เจาะลึก และการแอบดูที่ไม่ซ้ำใคร