Repolode
Enviar
microsoft

microsoft/agent-governance-toolkit

Aplicación de políticas, identidad de confianza cero, aislamiento de ejecución y herramientas de SRE para agentes de IA autónomos, con soporte para Python, TypeScript, .NET, Rust y Go.

Ver en GitHub
Estrellas
6,528
Forks
1,126
Issues abiertos
120
Último commit
hace 9 horas

¿Qué es?

Agent Governance Toolkit es un proyecto open source de Microsoft que permite controlar qué pueden hacer los agentes de IA una vez implementados. Intercepta llamadas a herramientas, mensajes y delegaciones a otros agentes en el código de la aplicación, las evalúa según políticas YAML, OPA o de estilo Cedar y registra cada decisión en un historial de auditoría. Las acciones denegadas se bloquean antes de que lleguen a la herramienta, en lugar de confiar en que el modelo siga las instrucciones de su prompt.

El toolkit está organizado en paquetes que cubren la aplicación de políticas, la identidad de los agentes y la puntuación de confianza, el aislamiento de ejecución con anillos de privilegios, los interruptores de emergencia y la supervisión de SLO, además de las comprobaciones de cumplimiento de OWASP Agentic Top 10. Se puede aplicar un wrapper `govern()` a una función de herramienta convencional, y hay adaptadores para frameworks como LangGraph, CrewAI, AutoGen, OpenAI Agents SDK y Google ADK. Las funciones básicas de gobernanza también están disponibles en SDK de TypeScript, .NET, Rust y Go, junto con plugins para Claude Code y GitHub Copilot CLI.

El proyecto incluye una herramienta de línea de comandos `agt` para comprobar la instalación, verificar OWASP, auditar ataques de inyección de prompts y analizar políticas. Actualmente se encuentra en vista previa pública, por lo que las API pueden cambiar antes de su lanzamiento con disponibilidad general.

Funciones clave

  • 01Aplica políticas YAML, OPA o de estilo Cedar a las llamadas a herramientas y las acciones de los agentes antes de que se ejecuten.
  • 02Envuelve cualquier función de herramienta de Python con una sola llamada a `govern()` y registra cada decisión en un registro de auditoría.
  • 03Asigna identidades y puntuaciones de confianza a los agentes, incluidas las cadenas de delegación entre ellos.
  • 04Ejecuta agentes en entornos aislados con cuatro anillos de privilegios e incluye un interruptor de emergencia.
  • 05Ofrece una pasarela de seguridad MCP que busca envenenamiento de herramientas e instrucciones ocultas.
  • 06Ofrece SDK para TypeScript, .NET, Rust y Go, además de los paquetes de Python.

Casos de uso

  • Añadir pasos de aprobación y reglas de denegación a agentes que pueden enviar correos electrónicos, consultar bases de datos o ejecutar comandos de shell.
  • Generar registros de auditoría a prueba de manipulaciones sobre las decisiones de los agentes para revisiones de cumplimiento.
  • Atribuir acciones a agentes específicos en sistemas multiagente que comparten credenciales.
  • Comprobar el código y los prompts de los agentes en CI según los controles de OWASP Agentic Top 10.

Inicio rápido

  1. 1

    Instala el paquete de Python con el extra completo (requiere Python 3.11 o posterior).

    pip install "agent-governance-toolkit[full]"
  2. 2

    Comprueba la instalación con la CLI.

    agt doctor

Antes de usarlo

  • Está en vista previa pública y puede incluir cambios incompatibles antes de la disponibilidad general (GA).
  • El wheel base instala únicamente la CLI de cumplimiento normativo, por lo que se necesita el extra completo para los módulos de gobernanza.

En colecciones

Frameworks y apps de agentes de IA open sourceHerramientas de escaneo, auditoría e inteligencia de amenazas

Temas

#ai-agents#ai-safety#governance#policy-engine#zero-trust#security#compliance#sandboxing#agent-framework#microsoft

Preguntas frecuentes

¿Qué es agent-governance-toolkit?
Aplicación de políticas, identidad de confianza cero, aislamiento de ejecución y herramientas de SRE para agentes de IA autónomos, con soporte para Python, TypeScript, .NET, Rust y Go. Agent Governance Toolkit es un proyecto open source de Microsoft que permite controlar qué pueden hacer los agentes de IA una vez implementados. Intercepta llamadas a herramientas, mensajes y delegaciones a otros agentes en el código de la aplicación, las evalúa según políticas YAML, OPA o de estilo Cedar y registra cada decisión en un historial de auditoría. Las acciones denegadas se bloquean antes de que lleguen a la herramienta, en lugar de confiar en que el modelo siga las instrucciones de su prompt.
¿agent-governance-toolkit es gratuito? ¿Qué licencia tiene?
agent-governance-toolkit es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿agent-governance-toolkit sigue mantenido?
Mantenimiento activo. El último commit de agent-governance-toolkit fue el 6 nov 2026.
¿Para qué puedo usar agent-governance-toolkit?
Añadir pasos de aprobación y reglas de denegación a agentes que pueden enviar correos electrónicos, consultar bases de datos o ejecutar comandos de shell. Generar registros de auditoría a prueba de manipulaciones sobre las decisiones de los agentes para revisiones de cumplimiento. Atribuir acciones a agentes específicos en sistemas multiagente que comparten credenciales. Comprobar el código y los prompts de los agentes en CI según los controles de OWASP Agentic Top 10.
¿Cómo se instala agent-governance-toolkit?
Instala el paquete de Python con el extra completo (requiere Python 3.11 o posterior).: pip install "agent-governance-toolkit[full]" Comprueba la instalación con la CLI.: agt doctor
¿Dónde consigo agent-governance-toolkit?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/microsoft/agent-governance-toolkit

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados