A Nvidia está apresentando sua nova ferramenta NeMo Guardrails para desenvolvedores de IA e promete fazer chatbots de IA como Bate-papoGPT apenas um pouco menos louco. O software de código aberto já está disponível para desenvolvedores e se concentra em três áreas para tornar os chatbots de IA mais úteis e menos perturbadores.
A ferramenta fica entre o usuário e o Large Language Model (LLM) com o qual ele está interagindo. É uma segurança para os chatbots, interceptar as respostas antes que elas cheguem ao modelo de linguagem para impedir que o modelo responda ou para fornecer instruções específicas sobre como responder.
A Nvidia diz que o NeMo Guardrails está focado em tópicos, segurança e limites de proteção. O foco tópico parece ser o mais útil, pois força o LLM a permanecer numa determinada gama de respostas. A Nvidia demonstrou o Guardrails mostrando um chatbot treinado no banco de dados de RH da empresa. Quando questionado sobre as finanças da Nvidia, ela deu uma resposta pronta que foi programada com NeMo Guardrails.
Relacionado
- Os principais autores exigem pagamento de empresas de IA pelo uso de seu trabalho
- GPT-4: como usar o chatbot AI que envergonha o ChatGPT
- Nvidia não quer que você saiba sobre sua polêmica nova GPU
Isso é importante devido às muitas chamadas alucinações que vimos nos chatbots de IA. Bate-papo do Bing da Microsoft, por exemplo, nos forneceu vários bizarros e respostas factualmente incorretas em nossa primeira demonstração. Quando confrontado com uma pergunta que o LLM não entende, muitas vezes inventará uma resposta na tentativa de satisfazer a pergunta. NeMo Guardrails pretende acabar com essas respostas inventadas.
Vídeos recomendados
Os princípios de segurança e proteção concentram-se em filtrar respostas indesejadas do LLM e evitar que ele seja manipulado pelos usuários. Como já vimos, você pode jailbreak ChatGPT e outros chatbots de IA. NeMo Guardrails atenderá essas dúvidas e impedirá que cheguem ao LLM.
Embora o NeMo Guardrails tenha sido construído para manter os chatbots atualizados e precisos, não é uma solução abrangente. A Nvidia diz que funciona melhor como segunda linha de defesa e que as empresas que desenvolvem e implantam chatbots ainda devem treinar o modelo em um conjunto de salvaguardas.
Os desenvolvedores também precisam personalizar a ferramenta para atender às suas aplicações. Isso permite que o NeoMo Guardrails se baseie no middleware que os modelos de IA já usam, como o LangChain, que já fornece uma estrutura de como os chatbots de IA devem interagir com os usuários.
Além de ser de código aberto, a Nvidia também oferece NeMo Guardrails como parte de seu Serviço de fundações de IA. Este pacote fornece vários modelos e estruturas pré-treinados para empresas que não têm tempo ou recursos para treinar e manter seus próprios modelos.
Recomendações dos Editores
- Veja por que as pessoas pensam que o GPT-4 pode ficar mais burro com o tempo
- ChatGPT: as últimas notícias, polêmicas e dicas que você precisa saber
- O que é um prompt DAN para ChatGPT?
- Wix usa ChatGPT para ajudá-lo a construir rapidamente um site inteiro
- O Google Bard agora pode falar, mas será que pode abafar o ChatGPT?
Atualize seu estilo de vidaDigital Trends ajuda os leitores a manter o controle sobre o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais criteriosos e prévias únicas.
