Open-source движок, SDK и CLI для adversarial-тестирования AI-агентов: атакует их через live-эндпоинты и превращает найденные сбои в правила firewall.
ZeroLeaks/zeroleaks
CLI-сканер и библиотека для red team-проверок системных промптов и инструкций агентов на уязвимости к извлечению промпта и prompt injection.
- Звёзды
- 744
- Форки
- 112
- Открытые issues
- 1
- Последний коммит
- в прошлом месяце
Что это?
ZeroLeaks загружает системный промпт в выбранную вами модель, проверяет её на атаки с извлечением промпта и prompt injection и показывает, насколько хорошо промпт выдержал испытание. Тесты на извлечение проверяют, можно ли разговорить модель и заставить её раскрыть собственный системный промпт. Тесты на инъекции проверяют, выполняет ли она инструкции, скрытые в документах, результатах инструментов или поддельных сообщениях администратора, а также соглашается ли она злоупотреблять инструментами.
Сканер запускается локально и использует ваши ключи провайдера моделей; по умолчанию он работает через OpenRouter, но можно подключить и OpenAI напрямую. Несколько агентов планируют атаки, анализируют ответы целевой модели и меняют тактику по ходу сканирования. LLM-судья оценивает каждый результат как полное или частичное выполнение инструкции либо отказ. Корпус для тестирования инъекций включает 78 поведенческих проб из таких категорий, как перехват управления инструментами, косвенные инъекции и многоходовая манипуляция.
Пакет доступен в виде CLI и библиотеки на TypeScript и работает с любыми совместимыми с OpenAI endpoint’ами, например Ollama, vLLM или LiteLLM. Он формирует цветной отчёт в терминале или выводит JSON и использует коды завершения, поэтому его можно запускать в CI. Исходный код доступен по лицензии FSL, которая не является лицензией open source.
Ключевые возможности
- 01Проверяет системный промпт на извлечение и инъекции.
- 02Использует несколько агентов, которые планируют атаки и меняют тактику в процессе сканирования.
- 03Включает 78 поведенческих проб для проверки инъекций по шести категориям.
- 04Использует LLM-судью, чтобы оценить, выполнила ли модель инструкцию.
- 05Поддерживает отдельные модели для атакующего, целевой модели, оценщика и судьи.
- 06Работает с OpenRouter, OpenAI и локальными или размещёнными endpoint’ами, совместимыми с OpenAI.
- 07Выводит отчёты в терминал или в формате JSON; поддерживает коды завершения для запуска в CI.
Сценарии использования
- Проверка системного промпта чат-бота для клиентов перед развёртыванием.
- Проверка того, сопротивляется ли агент инструкциям, скрытым в извлечённых документах или результатах работы инструментов.
- Добавление регрессионных проверок безопасности промптов в CI-пайплайн.
- Сравнение устойчивости разных моделей к одному и тому же промпту.
Быстрый старт
- 1
Установите пакет с помощью npm
npm install zeroleaks - 2
Укажите свой API-ключ OpenRouter
export OPENROUTER_API_KEY=sk-or-... - 3
Просканируйте системный промпт из командной строки
zeroleaks scan --prompt "You are a helpful assistant..."
Что важно знать
- Необходим собственный API-ключ провайдера модели; за каждое сканирование вы платите провайдеру.
- Лицензия — FSL-1.1-Apache-2.0 (исходный код доступен), а не стандартная лицензия с открытым исходным кодом.
- В README не указано, какая настройка Node/Bun требуется помимо npm install и среды выполнения Bun.
В подборках
Темы
Частые вопросы
- Что такое zeroleaks?
- CLI-сканер и библиотека для red team-проверок системных промптов и инструкций агентов на уязвимости к извлечению промпта и prompt injection. ZeroLeaks загружает системный промпт в выбранную вами модель, проверяет её на атаки с извлечением промпта и prompt injection и показывает, насколько хорошо промпт выдержал испытание. Тесты на извлечение проверяют, можно ли разговорить модель и заставить её раскрыть собственный системный промпт. Тесты на инъекции проверяют, выполняет ли она инструкции, скрытые в документах, результатах инструментов или поддельных сообщениях администратора, а также соглашается ли она злоупотреблять инструментами.
- zeroleaks можно использовать бесплатно? Какая у него лицензия?
- zeroleaks распространяется с открытым исходным кодом под лицензией Other. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- zeroleaks всё ещё поддерживается?
- Обновлялся за последние 6 месяцев. Последний коммит в zeroleaks — 26 сент. 2026 г..
- Для чего можно использовать zeroleaks?
- Проверка системного промпта чат-бота для клиентов перед развёртыванием. Проверка того, сопротивляется ли агент инструкциям, скрытым в извлечённых документах или результатах работы инструментов. Добавление регрессионных проверок безопасности промптов в CI-пайплайн. Сравнение устойчивости разных моделей к одному и тому же промпту.
- Как установить zeroleaks?
- Установите пакет с помощью npm: npm install zeroleaks Укажите свой API-ключ OpenRouter: export OPENROUTER_API_KEY=sk-or-... Просканируйте системный промпт из командной строки: zeroleaks scan --prompt "You are a helpful assistant..."
- Где скачать zeroleaks?
- Исходный код и инструкции по установке — на GitHub: https://github.com/ZeroLeaks/zeroleaks
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
CLI и библиотека с открытым исходным кодом для проверки файлов моделей ИИ, кода, работающих конечных точек LLM/агентов/MCP и записанных трасс агентов с отчетом о проблемах и пробелах в проверках.
Опенсорсный CLI-сканер, который проверяет LLM на уязвимости: prompt injection, утечки данных, jailbreak и токсичные ответы.
Платформа Tencent Zhuque Lab для red teaming ИИ, проверяющая AI-агентов, MCP-серверы, Agent Skills и ИИ-инфраструктуру на риски безопасности.
Открытый Python-фреймворк для red teaming систем на базе LLM и AI-агентов: имитирует атаки, выявляет уязвимости и предоставляет защитные механизмы для production.
Python-инструментарий для проверки LLM, guardrails и приложений на базе LLM на устойчивость к prompt injection и jailbreak-атакам.