Nvidia는 AI 개발자를 위한 새로운 NeMo Guardrails 도구를 선보이며 AI 챗봇을 다음과 같이 만들겠다고 약속합니다. 채팅GPT 조금 덜 미친 것뿐입니다. 오픈 소스 소프트웨어는 현재 개발자가 사용할 수 있으며 AI 챗봇을 더욱 유용하고 덜 불안하게 만드는 세 가지 영역에 중점을 두고 있습니다.
이 도구는 사용자와 사용자가 상호 작용하는 LLM(대형 언어 모델) 사이에 위치합니다. 이는 챗봇이 언어 모델에 도달하기 전에 응답을 가로채서 모델의 응답을 중지하거나 응답 방법에 대한 구체적인 지침을 제공하는 안전입니다.
Nvidia는 NeMo Guardrails가 주제, 안전 및 보안 경계에 중점을 두고 있다고 말합니다. 주제별 초점은 LLM이 특정 범위의 응답을 유지하도록 하기 때문에 가장 유용한 것 같습니다. Nvidia는 회사의 HR 데이터베이스에서 훈련된 챗봇을 보여줌으로써 Guardrails를 시연했습니다. Nvidia의 재정에 관해 질문을 받았을 때 NeMo Guardrails로 프로그래밍된 미리 준비된 답변을 제공했습니다.
관련된
- 최고 저자는 AI 회사에 자신의 작품 사용에 대한 대가를 요구합니다.
- GPT-4: ChatGPT를 부끄럽게 만드는 AI 챗봇을 사용하는 방법
- Nvidia는 논란의 여지가 있는 새로운 GPU에 대해 여러분이 알기를 원하지 않습니다.
이는 우리가 AI 챗봇에서 보아온 많은 소위 환각 때문에 중요합니다. 마이크로소프트의 빙 채팅, 예를 들어, 우리에게 몇 가지 기괴한 정보를 제공했습니다. 첫 번째 데모에서는 실제로 잘못된 응답이 있었습니다. LLM이 이해하지 못하는 질문에 직면하면 종종 질문을 만족시키기 위해 답변을 작성합니다. NeMo Guardrails는 이러한 꾸며낸 대응을 중단시키는 것을 목표로 합니다.
추천 동영상
안전 및 보안 원칙은 LLM에서 원치 않는 응답을 필터링하고 사용자가 이를 가지고 놀지 못하도록 방지하는 데 중점을 둡니다. 우리가 이미 본 것처럼, 당신은 할 수 있습니다 탈옥 ChatGPT 그리고 다른 AI 챗봇. NeMo Guardrails는 이러한 쿼리를 받아 LLM에 도달하지 못하도록 차단합니다.
NeMo Guardrails는 챗봇이 주제에 맞춰 정확하도록 제작되었지만 모든 기능을 갖춘 솔루션은 아닙니다. Nvidia는 이것이 2차 방어선으로 가장 잘 작동하며 챗봇을 개발하고 배포하는 회사는 일련의 안전 장치에 대해 모델을 계속 교육해야 한다고 말합니다.
개발자도 자신의 애플리케이션에 맞게 도구를 사용자 정의해야 합니다. 이를 통해 NeoMo Guardrails는 AI 챗봇이 사용자와 상호 작용하는 방식에 대한 프레임워크를 이미 제공하는 LangChain과 같이 AI 모델이 이미 사용하는 미들웨어 위에 위치할 수 있습니다.
Nvidia는 오픈 소스일 뿐만 아니라 NeMo Guardrails도 제공하고 있습니다. AI 기반 서비스. 이 패키지는 자체 모델을 교육하고 유지 관리할 시간이나 리소스가 없는 회사를 위해 사전 교육된 여러 모델과 프레임워크를 제공합니다.
편집자의 추천
- 사람들이 GPT-4가 시간이 지남에 따라 점점 더 멍청해질 수 있다고 생각하는 이유는 다음과 같습니다.
- ChatGPT: 알아야 할 최신 뉴스, 논란, 팁
- ChatGPT에 대한 DAN 프롬프트는 무엇입니까?
- Wix는 ChatGPT를 사용하여 전체 웹사이트를 빠르게 구축하도록 돕습니다.
- Google Bard는 이제 말할 수 있지만 ChatGPT를 압도할 수 있습니까?
당신의 라이프스타일을 업그레이드하세요Digital Trends는 독자들이 모든 최신 뉴스, 재미있는 제품 리뷰, 통찰력 있는 사설 및 독특한 미리보기를 통해 빠르게 변화하는 기술 세계를 계속해서 살펴볼 수 있도록 도와줍니다.
