Nvidia, yapay zeka geliştiricileri için yeni NeMo Guardrails aracını tanıtıyor ve yapay zeka sohbet robotları oluşturmayı vaat ediyor SohbetGPT sadece biraz daha az deli. Açık kaynaklı yazılım artık geliştiricilerin kullanımına açık ve AI sohbet robotlarını daha kullanışlı ve daha az rahatsız edici hale getirmek için üç alana odaklanıyor.
Araç, kullanıcı ile etkileşimde bulunduğu Büyük Dil Modeli (LLM) arasında yer alır. Bu, yanıtları dil modeline ulaşmadan önce yakalayarak modelin yanıt vermesini durdurmak veya modele nasıl yanıt vereceğine ilişkin özel talimatlar vermek, sohbet robotları için bir güvenliktir.
Nvidia, NeMo Guardrails'in güncellik, güvenlik ve güvenlik sınırlarına odaklandığını söylüyor. Konuya odaklanmak en yararlısı gibi görünüyor çünkü Yüksek Lisans'ı belirli bir yanıt aralığında kalmaya zorluyor. Nvidia, şirketin İK veritabanında eğitilmiş bir sohbet robotunu göstererek Guardrails'in tanıtımını yaptı. Nvidia'nın mali durumuyla ilgili bir soru sorulduğunda NeMo Guardrails ile programlanmış hazır bir yanıt verdi.
İlgili
- En iyi yazarlar, çalışmalarını kullanmaları karşılığında yapay zeka firmalarından ödeme talep ediyor
- GPT-4: ChatGPT'yi utandıran yapay zeka sohbet robotu nasıl kullanılır?
- Nvidia tartışmalı yeni GPU'sunu bilmenizi istemiyor
Yapay zeka sohbet robotlarında gördüğümüz birçok sözde halüsinasyon nedeniyle bu önemlidir. Microsoft'un Bing Sohbeti, Örneğin, bize birkaç tuhaf şey sağladı ve ilk demomuzdaki aslında yanlış yanıtlar. Yüksek Lisans'ın anlamadığı bir soruyla karşılaştığında, genellikle soruyu tatmin etmek amacıyla bir yanıt uydurur. NeMo Guardrails bu uydurma tepkilere bir son vermeyi amaçlıyor.
Önerilen Videolar
Emniyet ve güvenlik ilkeleri, LLM'den gelen istenmeyen yanıtları filtrelemeye ve kullanıcılar tarafından oynanmasını önlemeye odaklanır. Daha önce de gördüğümüz gibi, şunları yapabilirsiniz: jailbreak ChatGPT ve diğer yapay zeka sohbet robotları. NeMo Guardrails bu sorguları alacak ve bunların LLM'ye ulaşmasını engelleyecektir.
Her ne kadar NeMo Guardrails, sohbet robotlarını konu hakkında ve doğru tutmak için oluşturulmuş olsa da, her şeyi kapsayan bir çözüm değildir. Nvidia, bunun ikinci bir savunma hattı olarak en iyi şekilde çalıştığını ve sohbet robotları geliştiren ve dağıtan şirketlerin yine de modeli bir dizi güvenlik önlemi konusunda eğitmesi gerektiğini söylüyor.
Geliştiricilerin de aracı uygulamalarına uyacak şekilde özelleştirmeleri gerekiyor. Bu, NeoMo Guardrails'in, yapay zeka sohbet robotlarının kullanıcılarla nasıl etkileşime girmesi gerektiğine dair zaten bir çerçeve sağlayan LangChain gibi yapay zeka modellerinin halihazırda kullandığı ara katman yazılımının üzerinde yer almasına olanak tanır.
Nvidia, açık kaynak olmasının yanı sıra, NeMo Guardrails'i de sunuyor. Yapay Zeka Temelleri hizmeti. Bu paket, kendi modellerini eğitmek ve sürdürmek için zamanı veya kaynağı olmayan şirketler için önceden eğitilmiş çeşitli modeller ve çerçeveler sağlar.
Editörlerin Önerileri
- İşte bu yüzden insanlar GPT-4'ün zamanla daha da aptallaşabileceğini düşünüyor
- ChatGPT: bilmeniz gereken en son haberler, tartışmalar ve ipuçları
- ChatGPT için DAN istemi nedir?
- Wix, bir web sitesinin tamamını hızlı bir şekilde oluşturmanıza yardımcı olmak için ChatGPT'yi kullanıyor
- Google Bard artık konuşabiliyor ama ChatGPT'yi bastırabilir mi?
Yaşam tarzınızı yükseltinDigital Trends, en son haberler, eğlenceli ürün incelemeleri, anlayışlı başyazılar ve türünün tek örneği olan ön incelemelerle okuyucuların teknolojinin hızlı tempolu dünyasını takip etmelerine yardımcı olur.
