Repolode
Enviar
guardrails-ai

guardrails-ai/guardrails

Framework Python que adiciona proteções de entrada e saída a aplicações com LLMs e gera dados estruturados validados a partir das respostas dos modelos.

Ver no GitHubSite
Estrelas
7,540
Forks
727
Issues abertas
74
Último commit
há 6 dias

O que é?

Guardrails é um framework Python que ajuda a tornar aplicações baseadas em LLMs mais confiáveis. Ele executa proteções de entrada e saída que detectam, quantificam e mitigam riscos específicos, usando validadores que podem ser combinados em uma única proteção. Os validadores são distribuídos pelo Guardrails Hub, e cada um pode ser instalado como um pacote separado com pip.

O framework também ajuda a gerar dados estruturados a partir de LLMs. Você define a saída esperada como um modelo Pydantic, e o Guardrails gera uma resposta que corresponde a esse esquema, usando function calling quando o modelo oferece suporte e instruções de esquema no prompt quando não oferece.

O Guardrails pode ser executado como um serviço Flask independente que expõe uma REST API e oferece um endpoint compatível com OpenAI, para que clientes existentes do OpenAI SDK encaminhem chamadas através das proteções. O projeto é licenciado sob Apache-2.0.

Recursos principais

  • 01Proteções de entrada e saída que verificam entradas e respostas de LLMs com validadores configuráveis.
  • 02Validadores prontos do Guardrails Hub, como correspondência por regex, verificações de concorrentes e detecção de linguagem tóxica.
  • 03Geração de dados estruturados a partir de LLMs usando modelos Pydantic.
  • 04Function calling e instruções de esquema no prompt para diferentes capacidades de modelo.
  • 05Servidor independente com uma REST API e um endpoint compatível com OpenAI.

Casos de uso

  • Filtrar conteúdo tóxico ou fora do assunto em um chatbot antes que chegue aos usuários.
  • Impedir que um assistente mencione concorrentes ou vaze informações restritas.
  • Obter respostas de LLMs em uma estrutura JSON fixa para uso por código subsequente.
  • Adicionar uma camada de validação a uma aplicação existente baseada em OpenAI sem reescrever o código do cliente.

Início rápido

  1. 1

    Instale o pacote guardrails-ai

    pip install guardrails-ai
  2. 2

    Configure o Guardrails Hub CLI

    guardrails configure
  3. 3

    Instale um validador do Guardrails Hub

    pip install guardrails-ai-regex-match
  4. 4

    Crie um Guard com o validador instalado e execute-o, conforme mostrado no README

Antes de usar

  • O Guardrails está descontinuando seu serviço hospedado de inferência remota, com encerramento previsto para 25 de agosto de 2026.
  • Os validadores estão sendo transferidos para pacotes PyPI separados, que precisam ser instalados individualmente.

Tópicos

#llm#guardrails#validation#structured-output#pydantic#openai#python#ai#foundation-model#gpt-3

Perguntas frequentes

O que é guardrails?
Framework Python que adiciona proteções de entrada e saída a aplicações com LLMs e gera dados estruturados validados a partir das respostas dos modelos. Guardrails é um framework Python que ajuda a tornar aplicações baseadas em LLMs mais confiáveis. Ele executa proteções de entrada e saída que detectam, quantificam e mitigam riscos específicos, usando validadores que podem ser combinados em uma única proteção. Os validadores são distribuídos pelo Guardrails Hub, e cada um pode ser instalado como um pacote separado com pip.
guardrails é gratuito? Qual é a licença?
guardrails é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
guardrails ainda é mantido?
Manutenção ativa. O último commit de guardrails foi em 15 de out. de 2026.
Para que posso usar guardrails?
Filtrar conteúdo tóxico ou fora do assunto em um chatbot antes que chegue aos usuários. Impedir que um assistente mencione concorrentes ou vaze informações restritas. Obter respostas de LLMs em uma estrutura JSON fixa para uso por código subsequente. Adicionar uma camada de validação a uma aplicação existente baseada em OpenAI sem reescrever o código do cliente.
Como instalar guardrails?
Instale o pacote guardrails-ai: pip install guardrails-ai Configure o Guardrails Hub CLI: guardrails configure Instale um validador do Guardrails Hub: pip install guardrails-ai-regex-match Crie um Guard com o validador instalado e execute-o, conforme mostrado no README
Onde consigo guardrails?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/guardrails-ai/guardrails

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados