CLI и библиотека с открытым исходным кодом для проверки файлов моделей ИИ, кода, работающих конечных точек LLM/агентов/MCP и записанных трасс агентов с отчетом о проблемах и пробелах в проверках.
Tencent/AI-Infra-Guard
Платформа Tencent Zhuque Lab для red teaming ИИ, проверяющая AI-агентов, MCP-серверы, Agent Skills и ИИ-инфраструктуру на риски безопасности.
- Звёзды
- 6,933
- Форки
- 670
- Открытые issues
- 22
- Последний коммит
- 6 часов назад
Что это?
AI-Infra-Guard (A.I.G) — платформа для тестирования безопасности ИИ-систем. Она охватывает несколько направлений сканирования: ClawScan для выявления рисков безопасности OpenClaw, Agent Scan для рабочих процессов агентов (включая агентов Dify и Coze), проверку MCP-серверов и Agent Skills по исходному коду или удалённым URL, поиск уязвимостей ИИ-инфраструктуры в работающих сервисах и оценку устойчивости LLM к jailbreak-атакам разными методами.
Сканер ИИ-инфраструктуры определяет работающие сервисы, например Ollama, ComfyUI, vLLM, n8n и Triton Inference Server, а затем сверяет их с набором правил CVE. Можно указать один адрес, диапазон CIDR или диапазон IP-адресов. В проект также входят средство проверки прокси для моделей и API и CLI для сканирования навыков, который можно запускать в CI/CD-пайплайнах.
A.I.G запускается через Docker Compose и предоставляет веб-интерфейс на порту 8088 и Swagger API. Проект предназначен для внутреннего использования: сопровождающие не рекомендуют выставлять его в публичные сети, поскольку в нём нет аутентификации.
Ключевые возможности
- 01Сканирует MCP-серверы и Agent Skills по исходному коду или удалённым URL по 14 категориям рисков.
- 02Определяет более 100 компонентов фреймворков ИИ и сверяет их с более чем 2000 правилами CVE.
- 03Проводит оценку устойчивости к jailbreak-атакам разными методами и сравнивает результаты моделей.
- 04Предоставляет CLI skill-scan, который можно установить через pip и запускать в CI/CD-пайплайнах.
- 05Предлагает веб-интерфейс, документацию Swagger API и развёртывание на базе Docker.
Сценарии использования
- Проверить внутреннее развёртывание vLLM, Ollama или ComfyUI на известные CVE, прежде чем открывать к нему доступ пользователям.
- Проверить сторонние MCP-серверы или Agent Skills на вредоносное поведение до установки.
- Добавить проверки безопасности Agent Skills в корпоративный CI/CD-пайплайн.
- Оценить устойчивость LLM к jailbreak-атакам через конечную точку и сравнить надёжность моделей.
Быстрый старт
- 1
Клонируйте репозиторий
git clone https://github.com/Tencent/AI-Infra-Guard.git - 2
Перейдите в каталог проекта
cd AI-Infra-Guard - 3
Запустите сервис с помощью Docker Compose (загружаются готовые образы)
docker-compose -f docker-compose.images.yml up -d - 4
Откройте веб-интерфейс по адресу http://localhost:8088
Что важно знать
- Согласно README, аутентификация отсутствует, поэтому сервис не следует развёртывать в публичных сетях.
- Для некоторых функций, например версии Pro, требуется код приглашения.
- Точность сканирования навыков зависит от ключа внешнего API LLM.
Темы
Частые вопросы
- Что такое AI-Infra-Guard?
- Платформа Tencent Zhuque Lab для red teaming ИИ, проверяющая AI-агентов, MCP-серверы, Agent Skills и ИИ-инфраструктуру на риски безопасности. AI-Infra-Guard (A.I.G) — платформа для тестирования безопасности ИИ-систем. Она охватывает несколько направлений сканирования: ClawScan для выявления рисков безопасности OpenClaw, Agent Scan для рабочих процессов агентов (включая агентов Dify и Coze), проверку MCP-серверов и Agent Skills по исходному коду или удалённым URL, поиск уязвимостей ИИ-инфраструктуры в работающих сервисах и оценку устойчивости LLM к jailbreak-атакам разными методами.
- AI-Infra-Guard можно использовать бесплатно? Какая у него лицензия?
- AI-Infra-Guard распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- AI-Infra-Guard всё ещё поддерживается?
- Активно поддерживается. Последний коммит в AI-Infra-Guard — 22 окт. 2026 г..
- Для чего можно использовать AI-Infra-Guard?
- Проверить внутреннее развёртывание vLLM, Ollama или ComfyUI на известные CVE, прежде чем открывать к нему доступ пользователям. Проверить сторонние MCP-серверы или Agent Skills на вредоносное поведение до установки. Добавить проверки безопасности Agent Skills в корпоративный CI/CD-пайплайн. Оценить устойчивость LLM к jailbreak-атакам через конечную точку и сравнить надёжность моделей.
- Как установить AI-Infra-Guard?
- Клонируйте репозиторий: git clone https://github.com/Tencent/AI-Infra-Guard.git Перейдите в каталог проекта: cd AI-Infra-Guard Запустите сервис с помощью Docker Compose (загружаются готовые образы): docker-compose -f docker-compose.images.yml up -d Откройте веб-интерфейс по адресу http://localhost:8088
- Где скачать AI-Infra-Guard?
- Исходный код и инструкции по установке — на GitHub: https://github.com/Tencent/AI-Infra-Guard
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Опенсорсный CLI-сканер, который проверяет LLM на уязвимости: prompt injection, утечки данных, jailbreak и токсичные ответы.
Инструмент Cisco на Python для поиска угроз в MCP-серверах, инструментах, промптах и исходном коде с помощью YARA, LLM-анализа и Cisco AI Defense.
Открытый Python-фреймворк для red teaming систем на базе LLM и AI-агентов: имитирует атаки, выявляет уязвимости и предоставляет защитные механизмы для production.
Локальный уровень защиты в runtime: проверяет команды оболочки, доступ к файлам, установку пакетов и вызовы инструментов MCP перед выполнением.
Не зависящий от хоста слой безопасности между AI-агентами, использующими инструменты, и самими инструментами: блокирует опасные вызовы и скрывает чувствительные данные в результатах.