Repolode
Enviar
microsoft

microsoft/agent-governance-toolkit

Aplicação de políticas, identidade zero trust, sandbox de execução e ferramentas de SRE para agentes de IA autônomos, com suporte a Python, TypeScript, .NET, Rust e Go.

Ver no GitHub
Estrelas
6,528
Forks
1,126
Issues abertas
120
Último commit
há 19 horas

O que é?

Agent Governance Toolkit é um projeto open source da Microsoft para controlar o que agentes de IA podem fazer depois de implantados. Ele intercepta chamadas de ferramentas, mensagens e delegações para outros agentes no código da aplicação, avalia essas ações com base em políticas no formato YAML, OPA ou Cedar e registra cada decisão em uma trilha de auditoria. Ações negadas são bloqueadas antes de chegar à ferramenta, em vez de depender de o modelo seguir as instruções do prompt.

O toolkit é organizado em pacotes que abrangem aplicação de políticas, identidade e pontuação de confiança dos agentes, sandbox de execução com níveis de privilégio, kill switches e monitoramento de SLO, além de verificações de conformidade com o OWASP Agentic Top 10. É possível aplicar um wrapper `govern()` a uma função de ferramenta comum, e há adaptadores para frameworks como LangGraph, CrewAI, AutoGen, OpenAI Agents SDK e Google ADK. Os recursos centrais de governança também estão disponíveis em SDKs para TypeScript, .NET, Rust e Go, além de plugins para Claude Code e GitHub Copilot CLI.

O projeto inclui a ferramenta de linha de comando `agt`, que oferece verificações de instalação, validação OWASP, auditoria contra prompt injection e lint de políticas. Atualmente, está em prévia pública, então as APIs podem mudar antes do lançamento da disponibilidade geral.

Recursos principais

  • 01Aplica políticas no formato YAML, OPA ou Cedar a chamadas de ferramentas e ações de agentes antes da execução.
  • 02Envolve qualquer função de ferramenta em Python com uma única chamada a govern() e registra todas as decisões em um log de auditoria.
  • 03Atribui identidades e pontuações de confiança aos agentes, incluindo cadeias de delegação entre agentes.
  • 04Executa agentes em sandboxes com quatro níveis de privilégio e inclui um kill switch.
  • 05Oferece um gateway de segurança MCP que detecta envenenamento de ferramentas e instruções ocultas.
  • 06Oferece SDKs para TypeScript, .NET, Rust e Go, além dos pacotes para Python.

Casos de uso

  • Adicionar etapas de aprovação e regras de bloqueio a agentes que podem enviar e-mails, consultar bancos de dados ou executar comandos de shell.
  • Gerar registros de auditoria invioláveis das decisões dos agentes para análises de conformidade.
  • Atribuir ações a agentes específicos em sistemas multiagente que compartilham credenciais.
  • Verificar o código e os prompts dos agentes com base nos controles do OWASP Agentic Top 10 no CI.

Início rápido

  1. 1

    Instale o pacote Python com o extra completo (requer Python 3.11 ou superior).

    pip install "agent-governance-toolkit[full]"
  2. 2

    Verifique a instalação com a CLI.

    agt doctor

Antes de usar

  • Está em prévia pública e pode haver alterações incompatíveis antes da disponibilidade geral (GA).
  • O wheel base instala apenas a CLI de compliance; por isso, o extra completo é necessário para os módulos de governança.

Em coleções

Frameworks e apps de agentes de IA open sourceFerramentas de varredura, auditoria e inteligência de ameaças

Tópicos

#ai-agents#ai-safety#governance#policy-engine#zero-trust#security#compliance#sandboxing#agent-framework#microsoft

Perguntas frequentes

O que é agent-governance-toolkit?
Aplicação de políticas, identidade zero trust, sandbox de execução e ferramentas de SRE para agentes de IA autônomos, com suporte a Python, TypeScript, .NET, Rust e Go. Agent Governance Toolkit é um projeto open source da Microsoft para controlar o que agentes de IA podem fazer depois de implantados. Ele intercepta chamadas de ferramentas, mensagens e delegações para outros agentes no código da aplicação, avalia essas ações com base em políticas no formato YAML, OPA ou Cedar e registra cada decisão em uma trilha de auditoria. Ações negadas são bloqueadas antes de chegar à ferramenta, em vez de depender de o modelo seguir as instruções do prompt.
agent-governance-toolkit é gratuito? Qual é a licença?
agent-governance-toolkit é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
agent-governance-toolkit ainda é mantido?
Manutenção ativa. O último commit de agent-governance-toolkit foi em 6 de nov. de 2026.
Para que posso usar agent-governance-toolkit?
Adicionar etapas de aprovação e regras de bloqueio a agentes que podem enviar e-mails, consultar bancos de dados ou executar comandos de shell. Gerar registros de auditoria invioláveis das decisões dos agentes para análises de conformidade. Atribuir ações a agentes específicos em sistemas multiagente que compartilham credenciais. Verificar o código e os prompts dos agentes com base nos controles do OWASP Agentic Top 10 no CI.
Como instalar agent-governance-toolkit?
Instale o pacote Python com o extra completo (requer Python 3.11 ou superior).: pip install "agent-governance-toolkit[full]" Verifique a instalação com a CLI.: agt doctor
Onde consigo agent-governance-toolkit?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/microsoft/agent-governance-toolkit

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados