Nvidia представя новия си инструмент NeMo Guardrails за разработчици на AI и обещава да направи AI chatbots като ChatGPT просто малко по-малко луд. Софтуерът с отворен код вече е достъпен за разработчиците и се фокусира върху три области, за да направи AI чатботовете по-полезни и по-малко обезпокоителни.
Инструментът се намира между потребителя и големия езиков модел (LLM), с който взаимодействат. Това е безопасност за чатботовете, които прихващат отговорите, преди изобщо да достигнат езиковия модел, за да спрат модела да отговаря или да му дадат конкретни инструкции как да отговори.
Nvidia казва, че NeMo Guardrails е фокусиран върху тематични граници, безопасност и сигурност. Актуалният фокус изглежда най-полезен, тъй като принуждава LLM да остане в определен диапазон от отговори. Nvidia демонстрира Guardrails, като показа чатбот, обучен в базата данни за човешки ресурси на компанията. Когато беше зададен въпрос за финансите на Nvidia, тя даде готов отговор, който беше програмиран с NeMo Guardrails.
Свързани
- Топ автори изискват заплащане от фирми за изкуствен интелект за използване на работата им
- GPT-4: как да използвате AI chatbot, който засрамва ChatGPT
- Nvidia не иска да знаете за нейния противоречив нов GPU
Това е важно поради многото така наречени халюцинации, които сме виждали в чатботовете с изкуствен интелект. Bing Chat на Microsoft, например, ни предостави няколко странни и фактически неверни отговори в първата ни демонстрация. Когато се изправи пред въпрос, който LLM не разбира, той често измисля отговор в опит да удовлетвори запитването. NeMo Guardrails има за цел да сложи край на тези измислени отговори.
Препоръчани видеоклипове
Принципите на безопасността и сигурността се фокусират върху филтрирането на нежеланите отговори от LLM и предотвратяването на това да бъде използван от потребителите. Както вече видяхме, можете джейлбрейк ChatGPT и други AI чатботове. NeMo Guardrails ще приеме тези заявки и ще ги блокира, за да не достигнат до LLM.
Въпреки че NeMo Guardrails е създаден, за да поддържа чатботовете по темата и точни, това не е универсално решение. Nvidia казва, че работи най-добре като втора линия на защита и че компаниите, разработващи и внедряващи чатботове, все още трябва да обучават модела на набор от предпазни мерки.
Разработчиците също трябва да персонализират инструмента, за да отговаря на техните приложения. Това позволява на NeoMo Guardrails да седи върху междинния софтуер, който AI моделите вече използват, като LangChain, който вече предоставя рамка за това как AI chatbots трябва да взаимодействат с потребителите.
Освен че е с отворен код, Nvidia предлага и NeMo Guardrails като част от своя Услуга AI Foundations. Този пакет предоставя няколко предварително обучени модела и рамки за компании, които нямат време или ресурси да обучават и поддържат свои собствени модели.
Препоръки на редакторите
- Ето защо хората смятат, че GPT-4 може да става все по-глупав с времето
- ChatGPT: последните новини, спорове и съвети, които трябва да знаете
- Какво е DAN подкана за ChatGPT?
- Wix използва ChatGPT, за да ви помогне бързо да създадете цял уебсайт
- Google Bard вече може да говори, но може ли да заглуши ChatGPT?
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
