microsoft/agent-governance-toolkit

Что это?

Ключевые возможности

• 01Проверяет вызовы инструментов и действия агентов на соответствие политикам в форматах YAML, OPA или Cedar до их выполнения.
• 02Позволяет обернуть любую Python-функцию инструмента одним вызовом `govern()` и записывает каждое решение в журнал аудита.
• 03Назначает агентам идентификаторы и оценки доверия, в том числе учитывая цепочки делегирования между агентами.
• 04Запускает агентов в изолированной среде с четырьмя кольцами привилегий; также предусмотрен аварийный выключатель.
• 05Предоставляет шлюз безопасности MCP, который выявляет отравление инструментов и скрытые инструкции.
• 06Помимо пакетов для Python, предлагает SDK для TypeScript, .NET, Rust и Go.

Сценарии использования

• Добавление этапов согласования и правил запрета для агентов, которые могут отправлять электронную почту, запрашивать данные из баз или выполнять команды оболочки.
• Формирование защищённых от подделки аудиторских записей о решениях агентов для проверок на соответствие требованиям.
• Отслеживание действий конкретных агентов в мультиагентных системах с общими учётными данными.
• Проверка кода и промптов агентов на соответствие мерам контроля OWASP Agentic Top 10 в CI.

Быстрый старт

1. 1

   Установите пакет Python с полным extra (требуется Python 3.11 или новее).

   pip install "agent-governance-toolkit[full]"
2. 2

   Проверьте установку с помощью CLI.

   agt doctor

Что важно знать

• !Сейчас продукт находится в публичной предварительной версии, поэтому до общего выпуска (GA) возможны несовместимые изменения.
• !Базовый wheel устанавливает только CLI для обеспечения соответствия требованиям, поэтому для модулей управления необходим полный extra.

В подборках

Темы

Частые вопросы

Что такое agent-governance-toolkit?

Контроль политик, идентификация по принципу нулевого доверия, изоляция выполнения и инструменты SRE для автономных AI-агентов; поддерживаются Python, TypeScript, .NET, Rust и Go. Agent Governance Toolkit — open-source-проект Microsoft для контроля действий, доступных AI-агентам после их развертывания. Он перехватывает вызовы инструментов, сообщения и делегирование задач другим агентам в коде приложения, проверяет их на соответствие политикам в форматах YAML, OPA или Cedar и заносит каждое решение в журнал аудита. Запрещённые действия блокируются до того, как достигнут инструмента: система не полагается на то, что модель будет следовать инструкциям из промпта.

agent-governance-toolkit можно использовать бесплатно? Какая у него лицензия?

agent-governance-toolkit распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.

agent-governance-toolkit всё ещё поддерживается?

Активно поддерживается. Последний коммит в agent-governance-toolkit — 5 нояб. 2026 г..

Для чего можно использовать agent-governance-toolkit?

Добавление этапов согласования и правил запрета для агентов, которые могут отправлять электронную почту, запрашивать данные из баз или выполнять команды оболочки. Формирование защищённых от подделки аудиторских записей о решениях агентов для проверок на соответствие требованиям. Отслеживание действий конкретных агентов в мультиагентных системах с общими учётными данными. Проверка кода и промптов агентов на соответствие мерам контроля OWASP Agentic Top 10 в CI.

Как установить agent-governance-toolkit?

Установите пакет Python с полным extra (требуется Python 3.11 или новее).: pip install "agent-governance-toolkit[full]" Проверьте установку с помощью CLI.: agt doctor

Где скачать agent-governance-toolkit?

Исходный код и инструкции по установке — на GitHub: https://github.com/microsoft/agent-governance-toolkit