Repolode
Enviar
guardrails-ai

guardrails-ai/guardrails

Framework de Python que añade controles de entrada y salida a aplicaciones con LLM y genera datos estructurados validados a partir de sus respuestas.

Ver en GitHubSitio web
Estrellas
7,540
Forks
727
Issues abiertos
74
Último commit
hace 6 días

¿Qué es?

Guardrails es un framework de Python que ayuda a mejorar la confiabilidad de las aplicaciones basadas en LLM. Ejecuta controles de entrada y salida que detectan, cuantifican y mitigan riesgos específicos. Estos se construyen a partir de validadores que pueden combinarse en un único control. Los validadores se distribuyen a través de Guardrails Hub y cada uno puede instalarse como un paquete independiente con pip.

El framework también ayuda a generar datos estructurados a partir de LLM. Se define el resultado esperado como un modelo de Pydantic y Guardrails genera una salida que coincide con ese esquema. Para ello, usa function calling cuando el modelo lo admite e instrucciones sobre el esquema en el prompt cuando no.

Guardrails puede ejecutarse como un servicio independiente de Flask que expone una REST API, y ofrece un endpoint compatible con OpenAI para que los clientes existentes del OpenAI SDK puedan dirigir sus llamadas a través de los controles. El proyecto está bajo la licencia Apache-2.0.

Funciones clave

  • 01Controles de entrada y salida que verifican las entradas y respuestas de LLM con validadores configurables.
  • 02Validadores prediseñados de Guardrails Hub, como coincidencia con expresiones regulares, detección de competidores y de lenguaje tóxico.
  • 03Generación de datos estructurados a partir de LLM mediante modelos de Pydantic.
  • 04Function calling e instrucciones de esquema en el prompt para adaptarse a las capacidades de distintos modelos.
  • 05Servidor independiente con una REST API y un endpoint compatible con OpenAI.

Casos de uso

  • Filtrar contenido tóxico o fuera de tema en un chatbot antes de que llegue a los usuarios.
  • Evitar que un asistente mencione competidores o divulgue información restringida.
  • Obtener respuestas de LLM con una estructura JSON fija para procesarlas en código posterior.
  • Añadir una capa de validación a una aplicación existente basada en OpenAI sin reescribir el código del cliente.

Inicio rápido

  1. 1

    Instala el paquete guardrails-ai

    pip install guardrails-ai
  2. 2

    Configura Guardrails Hub CLI

    guardrails configure
  3. 3

    Instala un validador desde Guardrails Hub

    pip install guardrails-ai-regex-match
  4. 4

    Crea un Guard con el validador instalado y ejecútalo, como se indica en el README

Antes de usarlo

  • Guardrails dejará de ofrecer su servicio de inferencia remota alojado; la fecha prevista de finalización es el 25 de agosto de 2026.
  • Los validadores se están trasladando a paquetes PyPI independientes que deben instalarse por separado.

Temas

#llm#guardrails#validation#structured-output#pydantic#openai#python#ai#foundation-model#gpt-3

Preguntas frecuentes

¿Qué es guardrails?
Framework de Python que añade controles de entrada y salida a aplicaciones con LLM y genera datos estructurados validados a partir de sus respuestas. Guardrails es un framework de Python que ayuda a mejorar la confiabilidad de las aplicaciones basadas en LLM. Ejecuta controles de entrada y salida que detectan, cuantifican y mitigan riesgos específicos. Estos se construyen a partir de validadores que pueden combinarse en un único control. Los validadores se distribuyen a través de Guardrails Hub y cada uno puede instalarse como un paquete independiente con pip.
¿guardrails es gratuito? ¿Qué licencia tiene?
guardrails es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿guardrails sigue mantenido?
Mantenimiento activo. El último commit de guardrails fue el 15 oct 2026.
¿Para qué puedo usar guardrails?
Filtrar contenido tóxico o fuera de tema en un chatbot antes de que llegue a los usuarios. Evitar que un asistente mencione competidores o divulgue información restringida. Obtener respuestas de LLM con una estructura JSON fija para procesarlas en código posterior. Añadir una capa de validación a una aplicación existente basada en OpenAI sin reescribir el código del cliente.
¿Cómo se instala guardrails?
Instala el paquete guardrails-ai: pip install guardrails-ai Configura Guardrails Hub CLI: guardrails configure Instala un validador desde Guardrails Hub: pip install guardrails-ai-regex-match Crea un Guard con el validador instalado y ejecútalo, como se indica en el README
¿Dónde consigo guardrails?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/guardrails-ai/guardrails

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados