Repolode
Enviar
NVIDIA-NeMo

NVIDIA-NeMo/Guardrails

Toolkit open source em Python para adicionar guardrails programáveis a aplicações conversacionais com LLMs, controlando tópicos, fluxos de diálogo e respostas.

Ver no GitHubSite
Estrelas
7,333
Forks
876
Issues abertas
270
Último commit
há 6 horas

O que é?

NeMo Guardrails é um toolkit da NVIDIA que adiciona guardrails programáveis entre o código da aplicação e um modelo de linguagem grande. Os guardrails controlam sobre o que o modelo pode falar, como responde a determinadas solicitações, quais fluxos de diálogo segue e o estilo ou a estrutura das respostas, como a extração de dados estruturados.

Os guardrails são definidos em uma pasta de configuração. O arquivo config.yml seleciona o LLM e os rails ativos, enquanto os arquivos Colang descrevem fluxos e regras de diálogo. Os rails podem atuar nas entradas dos usuários, nos trechos recuperados em pipelines de RAG, nas chamadas de ferramentas e em seus resultados, além das respostas do modelo; em cada etapa, podem rejeitar ou reescrever conteúdo. A biblioteca inclui guardrails integrados para detectar jailbreaks e injeções, fazer moderação e verificação de fatos por meio de autoverificação e mascarar dados confidenciais. Também se integra a vários serviços de terceiros de moderação e segurança.

A biblioteca prioriza o uso assíncrono, mas oferece métodos síncronos e assíncronos, além de uma interface generate baseada no formato OpenAI Chat Completions. Também pode ser executada como servidor HTTP com um endpoint de chat completions, pela CLI com os comandos chat, server e evaluate ou em chains do LangChain, quando essa integração está habilitada.

Recursos principais

  • 01Rails programáveis para entrada, diálogo, recuperação, execução e saída.
  • 02Linguagens de modelagem Colang 1.0 e 2.0 para definir fluxos de diálogo.
  • 03Guardrails integrados para detectar jailbreaks, fazer moderação e verificação de fatos e mascarar dados confidenciais.
  • 04API Python que prioriza o uso assíncrono, com os métodos generate e generate_async.
  • 05Servidor HTTP com endpoint de chat completions, além de CLI e imagem Docker.
  • 06Integração opcional com LangChain e ferramenta de avaliação para rails de tópicos e alucinações.

Casos de uso

  • Manter um chatbot de suporte ao cliente dentro do tópico e seguindo um fluxo de conversa definido.
  • Adicionar moderação e verificação de fatos a um sistema de perguntas e respostas com RAG.
  • Mascarar dados pessoais nas entradas dos usuários antes que cheguem a um LLM.
  • Adicionar uma camada de segurança diante de um endpoint personalizado de LLM que atende usuários externos.

Início rápido

  1. 1

    Instale a biblioteca com pip

    pip install nemoguardrails
  2. 2

    Carregue uma configuração de guardrails e crie uma instância de LLMRails (API do Python)

  3. 3

    Chame rails.generate com suas mensagens

Antes de usar

  • Para executar uma configuração, é necessário ter um backend de LLM e suas credenciais de API, que você deve fornecer por conta própria.
  • Colang 1.0 é a versão padrão e Colang 2.0 usa uma sintaxe separada, então você precisa escolher qual delas sua configuração utiliza.

Tópicos

#llm-safety#guardrails#llm#conversational-ai#prompt-injection#content-moderation#python#agents#generative-ai#llm-security

Perguntas frequentes

O que é Guardrails?
Toolkit open source em Python para adicionar guardrails programáveis a aplicações conversacionais com LLMs, controlando tópicos, fluxos de diálogo e respostas. NeMo Guardrails é um toolkit da NVIDIA que adiciona guardrails programáveis entre o código da aplicação e um modelo de linguagem grande. Os guardrails controlam sobre o que o modelo pode falar, como responde a determinadas solicitações, quais fluxos de diálogo segue e o estilo ou a estrutura das respostas, como a extração de dados estruturados.
Guardrails é gratuito? Qual é a licença?
Guardrails é open source sob a licença Other. Confira os termos da licença antes de usá-lo em produtos comerciais.
Guardrails ainda é mantido?
Manutenção ativa. O último commit de Guardrails foi em 20 de out. de 2026.
Para que posso usar Guardrails?
Manter um chatbot de suporte ao cliente dentro do tópico e seguindo um fluxo de conversa definido. Adicionar moderação e verificação de fatos a um sistema de perguntas e respostas com RAG. Mascarar dados pessoais nas entradas dos usuários antes que cheguem a um LLM. Adicionar uma camada de segurança diante de um endpoint personalizado de LLM que atende usuários externos.
Como instalar Guardrails?
Instale a biblioteca com pip: pip install nemoguardrails Carregue uma configuração de guardrails e crie uma instância de LLMRails (API do Python) Chame rails.generate com suas mensagens
Onde consigo Guardrails?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/NVIDIA-NeMo/Guardrails

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados