Repolode
microsoft

microsoft/agent-governance-toolkit

面向自主 AI 智能体的策略执行、零信任身份、执行沙箱与可靠性工程工具包,支持多种语言。

Star
6,535
Fork
1,129
未关闭 Issue
120
最近提交
2小时前

这是什么?

Agent Governance Toolkit 是微软开源的 AI 智能体治理工具包,用于在智能体部署后控制它能做什么。它在应用代码层拦截工具调用、消息发送以及智能体之间的任务委派,依据 YAML、OPA 或 Cedar 风格的策略进行判定,并将每次决策写入审计日志。被拒绝的操作会在到达工具之前被阻止,而不是依赖模型自觉遵守提示词中的规则。

工具包按功能拆分为多个子包,涵盖策略执行、智能体身份与信任评分、基于四级特权环的执行沙箱、紧急停止与 SLO 监控,以及 OWASP Agentic Top 10 合规检查。开发者可以用 `govern()` 包装普通工具函数,也可以使用面向 LangGraph、CrewAI、AutoGen、OpenAI Agents SDK、Google ADK 等框架的适配器。核心治理能力同时提供 TypeScript、.NET、Rust 和 Go 版本,并包含 Claude Code 与 GitHub Copilot CLI 的插件。

项目附带 `agt` 命令行工具,可用于安装检查、OWASP 合规验证、提示词注入审计和策略文件校验。目前处于公开预览阶段,正式发布前接口可能变化。

核心功能

  • 01在工具调用和智能体操作执行前,依据 YAML、OPA 或 Cedar 风格策略进行判定。
  • 02通过一次 govern() 调用即可包装任意 Python 工具函数,并将每次决策写入审计日志。
  • 03为智能体分配身份与信任评分,支持智能体之间的委派链。
  • 04在四级特权环的执行沙箱中运行智能体,并提供紧急停止开关。
  • 05提供 MCP 安全网关,检测工具投毒与隐藏指令。
  • 06除 Python 外,还提供 TypeScript、.NET、Rust 和 Go 的 SDK。

适用场景

  • 为能发送邮件、查询数据库或执行命令的智能体添加审批与拒绝规则。
  • 为合规审查生成防篡改的智能体决策审计记录。
  • 在共享凭据的多智能体系统中,把操作准确归因到具体智能体。
  • 在 CI 中依据 OWASP Agentic Top 10 检查智能体代码与提示词。

快速上手

  1. 1

    安装带 full 扩展的 Python 包(需要 Python 3.11+)

    pip install "agent-governance-toolkit[full]"
  2. 2

    使用 CLI 检查安装是否正常

    agt doctor

使用前须知

  • 该项目处于公开预览阶段,在正式发布(GA)前可能出现破坏性变更。
  • 基础 wheel 仅安装合规 CLI,使用治理模块需要安装 full 扩展。

收录于专题

标签

常见问题

agent-governance-toolkit 是什么?
面向自主 AI 智能体的策略执行、零信任身份、执行沙箱与可靠性工程工具包,支持多种语言。 Agent Governance Toolkit 是微软开源的 AI 智能体治理工具包,用于在智能体部署后控制它能做什么。它在应用代码层拦截工具调用、消息发送以及智能体之间的任务委派,依据 YAML、OPA 或 Cedar 风格的策略进行判定,并将每次决策写入审计日志。被拒绝的操作会在到达工具之前被阻止,而不是依赖模型自觉遵守提示词中的规则。
agent-governance-toolkit 可以免费使用吗?用的什么许可证?
agent-governance-toolkit 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
agent-governance-toolkit 还在维护吗?
活跃维护中。agent-governance-toolkit 最近一次提交是在 2026年11月7日。
agent-governance-toolkit 适合用来做什么?
为能发送邮件、查询数据库或执行命令的智能体添加审批与拒绝规则。 为合规审查生成防篡改的智能体决策审计记录。 在共享凭据的多智能体系统中,把操作准确归因到具体智能体。 在 CI 中依据 OWASP Agentic Top 10 检查智能体代码与提示词。
agent-governance-toolkit 怎么安装和运行?
安装带 full 扩展的 Python 包(需要 Python 3.11+): pip install "agent-governance-toolkit[full]" 使用 CLI 检查安装是否正常: agt doctor
在哪里获取 agent-governance-toolkit?
源代码和安装说明在 GitHub 上:https://github.com/microsoft/agent-governance-toolkit

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目