Nvidia представляє свій новий інструмент NeMo Guardrails для розробників штучного інтелекту та обіцяє зробити такі чат-боти, як ChatGPT просто трохи менш божевільним. Програмне забезпечення з відкритим вихідним кодом вже доступне для розробників, і воно зосереджується на трьох сферах, щоб зробити чат-ботів AI більш корисними та менш тривожними.
Інструмент знаходиться між користувачем і великою мовною моделлю (LLM), з якою він взаємодіє. Це безпека для чат-ботів, які перехоплюють відповіді до того, як вони досягнуть мовної моделі, щоб або зупинити відповідь моделі, або надати їй конкретні вказівки щодо відповіді.
Nvidia каже, що NeMo Guardrails зосереджена на тематичних межах, безпеці та безпеки. Тематичний фокус видається найбільш корисним, оскільки він змушує LLM залишатися в певному діапазоні відповідей. Nvidia продемонструвала Guardrails, показавши чат-бота, навченого на базі даних компанії. Коли Nvidia поставили запитання про фінанси, вона дала готову відповідь, яка була запрограмована за допомогою NeMo Guardrails.
Пов'язані
- Найпопулярніші автори вимагають від фірм штучного інтелекту плату за використання їхніх робіт
- GPT-4: як використовувати чат-бот ШІ, який ганьбить ChatGPT
- Nvidia не хоче, щоб ви знали про її суперечливий новий GPU
Це важливо через багато так званих галюцинацій, які ми бачили в чат-ботах ШІ. Чат Bing від Microsoft, наприклад, надали нам кілька дивних і фактично неправильні відповіді в нашій першій демонстрації. Стикаючись із запитанням, яке LLM не розуміє, він часто вигадує відповідь, намагаючись задовольнити запит. NeMo Guardrails має на меті покласти край цим вигаданим відповідям.
Рекомендовані відео
Принципи безпеки та захисту зосереджені на фільтрації небажаних відповідей від LLM і запобіганні використанню з боку користувачів. Як ми вже бачили, ви можете джейлбрейк ChatGPT та інші чат-боти AI. NeMo Guardrails візьме ці запити та заблокує їх від доступу до LLM.
Незважаючи на те, що NeMo Guardrails розроблено для того, щоб підтримувати актуальність і точність чат-ботів, це не універсальне рішення. Nvidia каже, що це найкраще працює як друга лінія захисту, і що компанії, які розробляють і розгортають чат-боти, все одно повинні навчати модель набору заходів безпеки.
Розробники також повинні налаштувати інструмент відповідно до своїх програм. Це дозволяє NeoMo Guardrails розташовуватися поверх проміжного програмного забезпечення, яке вже використовують моделі штучного інтелекту, наприклад LangChain, яке вже забезпечує основу для того, як чат-боти штучного інтелекту мають взаємодіяти з користувачами.
Окрім відкритого коду, Nvidia також пропонує NeMo Guardrails як частину свого Сервіс AI Foundations. Цей пакет надає кілька попередньо навчених моделей і фреймворків для компаній, які не мають часу чи ресурсів для навчання та підтримки власних моделей.
Рекомендації редакції
- Ось чому люди думають, що GPT-4 з часом може ставати дурнішим
- ChatGPT: останні новини, суперечки та поради, які вам потрібно знати
- Що таке підказка DAN для ChatGPT?
- Wix використовує ChatGPT, щоб допомогти вам швидко створити весь веб-сайт
- Google Bard тепер може говорити, але чи може він заглушити ChatGPT?
Оновіть свій спосіб життяDigital Trends допомагає читачам стежити за динамічним світом технологій завдяки всім останнім новинам, цікавим оглядам продуктів, проникливим редакційним статтям і унікальним у своєму роді коротким оглядам.
