面向 AI 智能体的开源沙箱引擎,限制其可执行、读写和访问网络的范围,默认拒绝。
microsoft/agent-governance-toolkit
面向自主 AI 智能体的策略执行、零信任身份、执行沙箱与可靠性工程工具包,支持多种语言。
- Star
- 6,535
- Fork
- 1,129
- 未关闭 Issue
- 120
- 最近提交
- 2小时前
这是什么?
Agent Governance Toolkit 是微软开源的 AI 智能体治理工具包,用于在智能体部署后控制它能做什么。它在应用代码层拦截工具调用、消息发送以及智能体之间的任务委派,依据 YAML、OPA 或 Cedar 风格的策略进行判定,并将每次决策写入审计日志。被拒绝的操作会在到达工具之前被阻止,而不是依赖模型自觉遵守提示词中的规则。
工具包按功能拆分为多个子包,涵盖策略执行、智能体身份与信任评分、基于四级特权环的执行沙箱、紧急停止与 SLO 监控,以及 OWASP Agentic Top 10 合规检查。开发者可以用 `govern()` 包装普通工具函数,也可以使用面向 LangGraph、CrewAI、AutoGen、OpenAI Agents SDK、Google ADK 等框架的适配器。核心治理能力同时提供 TypeScript、.NET、Rust 和 Go 版本,并包含 Claude Code 与 GitHub Copilot CLI 的插件。
项目附带 `agt` 命令行工具,可用于安装检查、OWASP 合规验证、提示词注入审计和策略文件校验。目前处于公开预览阶段,正式发布前接口可能变化。
核心功能
- 01在工具调用和智能体操作执行前,依据 YAML、OPA 或 Cedar 风格策略进行判定。
- 02通过一次 govern() 调用即可包装任意 Python 工具函数,并将每次决策写入审计日志。
- 03为智能体分配身份与信任评分,支持智能体之间的委派链。
- 04在四级特权环的执行沙箱中运行智能体,并提供紧急停止开关。
- 05提供 MCP 安全网关,检测工具投毒与隐藏指令。
- 06除 Python 外,还提供 TypeScript、.NET、Rust 和 Go 的 SDK。
适用场景
- 为能发送邮件、查询数据库或执行命令的智能体添加审批与拒绝规则。
- 为合规审查生成防篡改的智能体决策审计记录。
- 在共享凭据的多智能体系统中,把操作准确归因到具体智能体。
- 在 CI 中依据 OWASP Agentic Top 10 检查智能体代码与提示词。
快速上手
- 1
安装带 full 扩展的 Python 包(需要 Python 3.11+)
pip install "agent-governance-toolkit[full]" - 2
使用 CLI 检查安装是否正常
agt doctor
使用前须知
- 该项目处于公开预览阶段,在正式发布(GA)前可能出现破坏性变更。
- 基础 wheel 仅安装合规 CLI,使用治理模块需要安装 full 扩展。
收录于专题
标签
常见问题
- agent-governance-toolkit 是什么?
- 面向自主 AI 智能体的策略执行、零信任身份、执行沙箱与可靠性工程工具包,支持多种语言。 Agent Governance Toolkit 是微软开源的 AI 智能体治理工具包,用于在智能体部署后控制它能做什么。它在应用代码层拦截工具调用、消息发送以及智能体之间的任务委派,依据 YAML、OPA 或 Cedar 风格的策略进行判定,并将每次决策写入审计日志。被拒绝的操作会在到达工具之前被阻止,而不是依赖模型自觉遵守提示词中的规则。
- agent-governance-toolkit 可以免费使用吗?用的什么许可证?
- agent-governance-toolkit 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- agent-governance-toolkit 还在维护吗?
- 活跃维护中。agent-governance-toolkit 最近一次提交是在 2026年11月7日。
- agent-governance-toolkit 适合用来做什么?
- 为能发送邮件、查询数据库或执行命令的智能体添加审批与拒绝规则。 为合规审查生成防篡改的智能体决策审计记录。 在共享凭据的多智能体系统中,把操作准确归因到具体智能体。 在 CI 中依据 OWASP Agentic Top 10 检查智能体代码与提示词。
- agent-governance-toolkit 怎么安装和运行?
- 安装带 full 扩展的 Python 包(需要 Python 3.11+): pip install "agent-governance-toolkit[full]" 使用 CLI 检查安装是否正常: agt doctor
- 在哪里获取 agent-governance-toolkit?
- 源代码和安装说明在 GitHub 上:https://github.com/microsoft/agent-governance-toolkit
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
运行在 Kubernetes 上的零信任沙箱运行时,通过快照空闲 Agent 实现多个有状态 Agent 复用少量 Worker。
开源的 AI 智能体治理层,用声明式策略约束智能体,并生成可离线验证的运行记录。
面向 AI Agent 的运行时防火墙,在工具调用执行前进行拦截、分类与阻断,并支持人工审批和可防篡改的审计日志。
用 Rust 编写的安全 Python 沙箱,用于运行 AI 生成的代码,无需容器。
面向 AI 智能体的内核级沙箱与安全运行时,管控工具调用、凭证、网络和文件变更。