Nvidia представляет свой новый инструмент NeMo Guardrails для разработчиков ИИ и обещает сделать чат-ботов с искусственным интеллектом такими же, как ЧатGPT просто немного менее безумный. Программное обеспечение с открытым исходным кодом уже доступно разработчикам и фокусируется на трех областях, чтобы сделать чат-ботов с искусственным интеллектом более полезными и менее тревожными.
Инструмент находится между пользователем и большой языковой моделью (LLM), с которой он взаимодействует. Это безопасно для чат-ботов: они перехватывают ответы еще до того, как они достигнут языковой модели, чтобы либо остановить реакцию модели, либо дать ей конкретные инструкции о том, как реагировать.
Nvidia заявляет, что NeMo Guardrails ориентирована на актуальные границы безопасности и защиты. Тематический фокус кажется наиболее полезным, поскольку он заставляет LLM оставаться в определенном диапазоне ответов. Nvidia продемонстрировала Guardrails, показав чат-бота, обученного работе с базой данных кадровой службы компании. Когда ему задали вопрос о финансах Nvidia, она дала стандартный ответ, запрограммированный с помощью NeMo Guardrails.
Связанный
- Ведущие авторы требуют от компаний, занимающихся искусственным интеллектом, оплату за использование их работ
- GPT-4: как использовать чат-бота с искусственным интеллектом, который посрамляет ChatGPT
- Nvidia не хочет, чтобы вы знали о ее скандальном новом графическом процессоре
Это важно из-за множества так называемых галлюцинаций, которые мы видели у чат-ботов с искусственным интеллектом. Чат Microsoft Bing, например, предоставил нам несколько странных и фактически неверные ответы в нашей первой демонстрации. Столкнувшись с вопросом, который LLM не понимает, он часто придумывает ответ, пытаясь удовлетворить запрос. NeMo Guardrails стремится положить конец этим выдуманным ответам.
Рекомендуемые видео
Принципы безопасности и защиты направлены на фильтрацию нежелательных ответов от LLM и предотвращение манипуляций с ним пользователями. Как мы уже видели, вы можете побег из тюрьмы ChatGPT и другие чат-боты с искусственным интеллектом. NeMo Guardrails примет эти запросы и заблокирует их попадание в LLM.
Хотя NeMo Guardrails создан для обеспечения актуальности и точности чат-ботов, это не универсальное решение. Nvidia заявляет, что лучше всего она работает в качестве второй линии защиты, и что компаниям, разрабатывающим и внедряющим чат-ботов, все равно следует обучать эту модель набору мер безопасности.
Разработчикам также необходимо настроить инструмент в соответствии со своими приложениями. Это позволяет NeoMo Guardrails работать поверх промежуточного программного обеспечения, которое уже используют модели ИИ, например LangChain, которое уже обеспечивает основу для того, как чат-боты ИИ должны взаимодействовать с пользователями.
Помимо открытого исходного кода, Nvidia также предлагает NeMo Guardrails в рамках своего проекта. Служба Фондов ИИ. Этот пакет предоставляет несколько предварительно обученных моделей и платформ для компаний, у которых нет времени или ресурсов для обучения и поддержки собственных моделей.
Рекомендации редакции
- Вот почему люди думают, что GPT-4 со временем может стать тупее
- ChatGPT: последние новости, противоречия и советы, которые вам нужно знать
- Что такое запрос DAN для ChatGPT?
- Wix использует ChatGPT, чтобы помочь вам быстро создать целый веб-сайт.
- Google Bard теперь может говорить, но сможет ли он заглушить ChatGPT?
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, содержательным редакционным статьям и уникальным кратким обзорам.
