Repolode
Tencent

Tencent/AI-Infra-Guard

Платформа Tencent Zhuque Lab для red teaming ИИ, проверяющая AI-агентов, MCP-серверы, Agent Skills и ИИ-инфраструктуру на риски безопасности.

Звёзды
6,933
Форки
670
Открытые issues
22
Последний коммит
6 часов назад

Что это?

AI-Infra-Guard (A.I.G) — платформа для тестирования безопасности ИИ-систем. Она охватывает несколько направлений сканирования: ClawScan для выявления рисков безопасности OpenClaw, Agent Scan для рабочих процессов агентов (включая агентов Dify и Coze), проверку MCP-серверов и Agent Skills по исходному коду или удалённым URL, поиск уязвимостей ИИ-инфраструктуры в работающих сервисах и оценку устойчивости LLM к jailbreak-атакам разными методами.

Сканер ИИ-инфраструктуры определяет работающие сервисы, например Ollama, ComfyUI, vLLM, n8n и Triton Inference Server, а затем сверяет их с набором правил CVE. Можно указать один адрес, диапазон CIDR или диапазон IP-адресов. В проект также входят средство проверки прокси для моделей и API и CLI для сканирования навыков, который можно запускать в CI/CD-пайплайнах.

A.I.G запускается через Docker Compose и предоставляет веб-интерфейс на порту 8088 и Swagger API. Проект предназначен для внутреннего использования: сопровождающие не рекомендуют выставлять его в публичные сети, поскольку в нём нет аутентификации.

Ключевые возможности

  • 01Сканирует MCP-серверы и Agent Skills по исходному коду или удалённым URL по 14 категориям рисков.
  • 02Определяет более 100 компонентов фреймворков ИИ и сверяет их с более чем 2000 правилами CVE.
  • 03Проводит оценку устойчивости к jailbreak-атакам разными методами и сравнивает результаты моделей.
  • 04Предоставляет CLI skill-scan, который можно установить через pip и запускать в CI/CD-пайплайнах.
  • 05Предлагает веб-интерфейс, документацию Swagger API и развёртывание на базе Docker.

Сценарии использования

  • Проверить внутреннее развёртывание vLLM, Ollama или ComfyUI на известные CVE, прежде чем открывать к нему доступ пользователям.
  • Проверить сторонние MCP-серверы или Agent Skills на вредоносное поведение до установки.
  • Добавить проверки безопасности Agent Skills в корпоративный CI/CD-пайплайн.
  • Оценить устойчивость LLM к jailbreak-атакам через конечную точку и сравнить надёжность моделей.

Быстрый старт

  1. 1

    Клонируйте репозиторий

    git clone https://github.com/Tencent/AI-Infra-Guard.git
  2. 2

    Перейдите в каталог проекта

    cd AI-Infra-Guard
  3. 3

    Запустите сервис с помощью Docker Compose (загружаются готовые образы)

    docker-compose -f docker-compose.images.yml up -d
  4. 4

    Откройте веб-интерфейс по адресу http://localhost:8088

Что важно знать

  • Согласно README, аутентификация отсутствует, поэтому сервис не следует развёртывать в публичных сетях.
  • Для некоторых функций, например версии Pro, требуется код приглашения.
  • Точность сканирования навыков зависит от ключа внешнего API LLM.

Темы

Частые вопросы

Что такое AI-Infra-Guard?
Платформа Tencent Zhuque Lab для red teaming ИИ, проверяющая AI-агентов, MCP-серверы, Agent Skills и ИИ-инфраструктуру на риски безопасности. AI-Infra-Guard (A.I.G) — платформа для тестирования безопасности ИИ-систем. Она охватывает несколько направлений сканирования: ClawScan для выявления рисков безопасности OpenClaw, Agent Scan для рабочих процессов агентов (включая агентов Dify и Coze), проверку MCP-серверов и Agent Skills по исходному коду или удалённым URL, поиск уязвимостей ИИ-инфраструктуры в работающих сервисах и оценку устойчивости LLM к jailbreak-атакам разными методами.
AI-Infra-Guard можно использовать бесплатно? Какая у него лицензия?
AI-Infra-Guard распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
AI-Infra-Guard всё ещё поддерживается?
Активно поддерживается. Последний коммит в AI-Infra-Guard — 22 окт. 2026 г..
Для чего можно использовать AI-Infra-Guard?
Проверить внутреннее развёртывание vLLM, Ollama или ComfyUI на известные CVE, прежде чем открывать к нему доступ пользователям. Проверить сторонние MCP-серверы или Agent Skills на вредоносное поведение до установки. Добавить проверки безопасности Agent Skills в корпоративный CI/CD-пайплайн. Оценить устойчивость LLM к jailbreak-атакам через конечную точку и сравнить надёжность моделей.
Как установить AI-Infra-Guard?
Клонируйте репозиторий: git clone https://github.com/Tencent/AI-Infra-Guard.git Перейдите в каталог проекта: cd AI-Infra-Guard Запустите сервис с помощью Docker Compose (загружаются готовые образы): docker-compose -f docker-compose.images.yml up -d Откройте веб-интерфейс по адресу http://localhost:8088
Где скачать AI-Infra-Guard?
Исходный код и инструкции по установке — на GitHub: https://github.com/Tencent/AI-Infra-Guard

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

CLI и библиотека с открытым исходным кодом для проверки файлов моделей ИИ, кода, работающих конечных точек LLM/агентов/MCP и записанных трасс агентов с отчетом о проблемах и пробелах в проверках.

24813PythonApache-2.0Обновлён вчера

Не зависящий от хоста слой безопасности между AI-агентами, использующими инструменты, и самими инструментами: блокирует опасные вызовы и скрывает чувствительные данные в результатах.

1 тыс.59TypeScriptБез лицензииОбновлён 2 месяца назад