Repolode
Enviar
NVIDIA-NeMo

NVIDIA-NeMo/Guardrails

Toolkit de Python de código abierto para añadir guardrails programables a aplicaciones conversacionales basadas en LLM y controlar temas, flujos de diálogo y respuestas.

Ver en GitHubSitio web
Estrellas
7,333
Forks
876
Issues abiertos
270
Último commit
hace 5 horas

¿Qué es?

NeMo Guardrails es un toolkit de NVIDIA que permite colocar guardrails programables entre el código de una aplicación y un modelo de lenguaje grande. Los guardrails controlan de qué hablará el modelo, cómo responde a determinadas solicitudes, qué flujos de diálogo sigue y qué estilo o estructura tienen sus respuestas, por ejemplo, al extraer datos estructurados.

Los guardrails se definen en una carpeta de configuración. Un archivo config.yml selecciona el LLM y los rails activos, y los archivos Colang describen los flujos de diálogo y las reglas. Los rails pueden ejecutarse sobre la entrada del usuario, los fragmentos recuperados en pipelines RAG, las llamadas a herramientas y sus resultados, y las respuestas del modelo; también pueden rechazar o reescribir contenido en cada etapa. La biblioteca incluye guardrails integrados para detectar jailbreaks e inyecciones, moderar y verificar datos, y enmascarar datos sensibles, además de integrarse con varios servicios externos de moderación y seguridad.

La biblioteca prioriza el uso asíncrono y ofrece métodos tanto síncronos como asíncronos, con una interfaz generate basada en el formato OpenAI Chat Completions. También puede ejecutarse como servidor HTTP con un endpoint de chat completions, mediante una CLI con comandos chat, server y evaluate, o dentro de cadenas de LangChain si se habilita esa integración.

Funciones clave

  • 01Rails programables para la entrada, el diálogo, la recuperación, la ejecución y la salida.
  • 02Lenguajes de modelado Colang 1.0 y 2.0 para definir flujos de diálogo.
  • 03Guardrails integrados para detectar jailbreaks, moderar y verificar datos, y enmascarar datos sensibles.
  • 04API de Python que prioriza el uso asíncrono, con los métodos generate y generate_async.
  • 05Servidor HTTP con un endpoint de chat completions, además de una CLI y una imagen de Docker.
  • 06Integración opcional con LangChain y una herramienta de evaluación para rails temáticos y alucinaciones.

Casos de uso

  • Mantener un chatbot de atención al cliente centrado en el tema y siguiendo un flujo de conversación predefinido.
  • Añadir moderación y verificación de datos a un sistema RAG de preguntas y respuestas.
  • Enmascarar datos personales en la entrada del usuario antes de que llegue a un LLM.
  • Añadir una capa de seguridad delante de un endpoint de LLM personalizado que presta servicio a usuarios externos.

Inicio rápido

  1. 1

    Instala la biblioteca con pip

    pip install nemoguardrails
  2. 2

    Carga una configuración de guardrails y crea una instancia de LLMRails (API de Python)

  3. 3

    Llama a rails.generate con tus mensajes

Antes de usarlo

  • Para ejecutar una configuración, necesitas un backend de LLM y sus credenciales de API, que debes proporcionar por tu cuenta.
  • Colang 1.0 es la versión predeterminada y Colang 2.0 usa una sintaxis independiente, así que debes elegir cuál utiliza tu configuración.

Temas

#llm-safety#guardrails#llm#conversational-ai#prompt-injection#content-moderation#python#agents#generative-ai#llm-security

Preguntas frecuentes

¿Qué es Guardrails?
Toolkit de Python de código abierto para añadir guardrails programables a aplicaciones conversacionales basadas en LLM y controlar temas, flujos de diálogo y respuestas. NeMo Guardrails es un toolkit de NVIDIA que permite colocar guardrails programables entre el código de una aplicación y un modelo de lenguaje grande. Los guardrails controlan de qué hablará el modelo, cómo responde a determinadas solicitudes, qué flujos de diálogo sigue y qué estilo o estructura tienen sus respuestas, por ejemplo, al extraer datos estructurados.
¿Guardrails es gratuito? ¿Qué licencia tiene?
Guardrails es open source bajo la licencia Other. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿Guardrails sigue mantenido?
Mantenimiento activo. El último commit de Guardrails fue el 20 oct 2026.
¿Para qué puedo usar Guardrails?
Mantener un chatbot de atención al cliente centrado en el tema y siguiendo un flujo de conversación predefinido. Añadir moderación y verificación de datos a un sistema RAG de preguntas y respuestas. Enmascarar datos personales en la entrada del usuario antes de que llegue a un LLM. Añadir una capa de seguridad delante de un endpoint de LLM personalizado que presta servicio a usuarios externos.
¿Cómo se instala Guardrails?
Instala la biblioteca con pip: pip install nemoguardrails Carga una configuración de guardrails y crea una instancia de LLMRails (API de Python) Llama a rails.generate con tus mensajes
¿Dónde consigo Guardrails?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/NVIDIA-NeMo/Guardrails

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados