Nvidia představuje svůj nový nástroj NeMo Guardrails pro vývojáře AI a slibuje, že se AI chatboti budou líbit ChatGPT jen trochu méně šílené. Software s otevřeným zdrojovým kódem je nyní k dispozici vývojářům a zaměřuje se na tři oblasti, aby byli AI chatboti užitečnější a méně znepokojující.
Nástroj je umístěn mezi uživatelem a velkým jazykovým modelem (LLM), se kterým komunikují. Je to bezpečnost pro chatboty, zachycující odpovědi dříve, než vůbec dosáhnou jazykového modelu, aby model buď přestal reagovat, nebo mu dal konkrétní pokyny, jak reagovat.
Nvidia říká, že NeMo Guardrails se zaměřuje na aktuální, bezpečnostní a bezpečnostní hranice. Tématické zaměření se zdá být nejužitečnější, protože nutí LLM zůstat v určitém rozsahu odpovědí. Nvidia předvedla Guardrails ukázkou chatbota vyškoleného na firemní databázi lidských zdrojů. Když byla položena otázka ohledně financí společnosti Nvidia, poskytla předpřipravenou odpověď, která byla naprogramována pomocí NeMo Guardrails.
Příbuzný
- Špičkoví autoři požadují od firem zabývajících se umělou inteligencí platby za použití jejich díla
- GPT-4: jak používat chatbota s umělou inteligencí, který dělá ChatGPT hanbou
- Nvidia nechce, abyste věděli o jejím kontroverzním novém GPU
To je důležité kvůli mnoha takzvaným halucinacím, které jsme viděli u AI chatbotů. Microsoft Bing Chat, například, nám poskytl několik bizarních a fakticky nesprávné odpovědi v našem prvním demu. Když se setkáte s otázkou, které LLM nerozumí, často vymyslí odpověď ve snaze uspokojit dotaz. Cílem NeMo Guardrails je zastavit tyto vymyšlené odpovědi.
Doporučená videa
Zásady bezpečnosti a zabezpečení se zaměřují na odfiltrování nežádoucích odpovědí z LLM a zabránění tomu, aby si s ním uživatelé pohrávali. Jak jsme již viděli, můžete útěk z vězení ChatGPT a další AI chatboti. NeMo Guardrails tyto dotazy převezme a zablokuje je, aby se nikdy nedostaly do LLM.
I když jsou NeMo Guardrails vytvořeny tak, aby udržely chatboty na aktuálním tématu a byly přesné, není to univerzální řešení. Nvidia říká, že funguje nejlépe jako druhá obranná linie a že společnosti vyvíjející a nasazující chatboty by měly tento model stále trénovat na sadě ochranných opatření.
Vývojáři také potřebují přizpůsobit nástroj tak, aby vyhovoval jejich aplikacím. To umožňuje NeoMo Guardrails sedět na middlewaru, který již modely AI používají, jako je LangChain, který již poskytuje rámec pro to, jak mají chatboti AI interagovat s uživateli.
Kromě toho, že je to open-source, Nvidia nabízí jako součást svého i NeMo Guardrails Služba AI Foundations. Tento balíček poskytuje několik předem vyškolených modelů a rámců pro společnosti, které nemají čas nebo zdroje na školení a údržbu svých vlastních modelů.
Doporučení redakce
- Zde je důvod, proč si lidé myslí, že GPT-4 může být časem hloupější
- ChatGPT: nejnovější zprávy, kontroverze a tipy, které potřebujete vědět
- Co je výzva DAN pro ChatGPT?
- Wix používá ChatGPT, který vám pomůže rychle vytvořit celý web
- Google Bard nyní umí mluvit, ale dokáže přehlušit ChatGPT?
Upgradujte svůj životní stylDigitální trendy pomáhají čtenářům mít přehled o rychle se měnícím světě technologií se všemi nejnovějšími zprávami, zábavnými recenzemi produktů, zasvěcenými úvodníky a jedinečnými náhledy.
