Repolode
ZeroLeaks

ZeroLeaks/zeroleaks

CLI-сканер и библиотека для red team-проверок системных промптов и инструкций агентов на уязвимости к извлечению промпта и prompt injection.

Звёзды
744
Форки
112
Открытые issues
1
Последний коммит
в прошлом месяце

Что это?

ZeroLeaks загружает системный промпт в выбранную вами модель, проверяет её на атаки с извлечением промпта и prompt injection и показывает, насколько хорошо промпт выдержал испытание. Тесты на извлечение проверяют, можно ли разговорить модель и заставить её раскрыть собственный системный промпт. Тесты на инъекции проверяют, выполняет ли она инструкции, скрытые в документах, результатах инструментов или поддельных сообщениях администратора, а также соглашается ли она злоупотреблять инструментами.

Сканер запускается локально и использует ваши ключи провайдера моделей; по умолчанию он работает через OpenRouter, но можно подключить и OpenAI напрямую. Несколько агентов планируют атаки, анализируют ответы целевой модели и меняют тактику по ходу сканирования. LLM-судья оценивает каждый результат как полное или частичное выполнение инструкции либо отказ. Корпус для тестирования инъекций включает 78 поведенческих проб из таких категорий, как перехват управления инструментами, косвенные инъекции и многоходовая манипуляция.

Пакет доступен в виде CLI и библиотеки на TypeScript и работает с любыми совместимыми с OpenAI endpoint’ами, например Ollama, vLLM или LiteLLM. Он формирует цветной отчёт в терминале или выводит JSON и использует коды завершения, поэтому его можно запускать в CI. Исходный код доступен по лицензии FSL, которая не является лицензией open source.

Ключевые возможности

  • 01Проверяет системный промпт на извлечение и инъекции.
  • 02Использует несколько агентов, которые планируют атаки и меняют тактику в процессе сканирования.
  • 03Включает 78 поведенческих проб для проверки инъекций по шести категориям.
  • 04Использует LLM-судью, чтобы оценить, выполнила ли модель инструкцию.
  • 05Поддерживает отдельные модели для атакующего, целевой модели, оценщика и судьи.
  • 06Работает с OpenRouter, OpenAI и локальными или размещёнными endpoint’ами, совместимыми с OpenAI.
  • 07Выводит отчёты в терминал или в формате JSON; поддерживает коды завершения для запуска в CI.

Сценарии использования

  • Проверка системного промпта чат-бота для клиентов перед развёртыванием.
  • Проверка того, сопротивляется ли агент инструкциям, скрытым в извлечённых документах или результатах работы инструментов.
  • Добавление регрессионных проверок безопасности промптов в CI-пайплайн.
  • Сравнение устойчивости разных моделей к одному и тому же промпту.

Быстрый старт

  1. 1

    Установите пакет с помощью npm

    npm install zeroleaks
  2. 2

    Укажите свой API-ключ OpenRouter

    export OPENROUTER_API_KEY=sk-or-...
  3. 3

    Просканируйте системный промпт из командной строки

    zeroleaks scan --prompt "You are a helpful assistant..."

Что важно знать

  • Необходим собственный API-ключ провайдера модели; за каждое сканирование вы платите провайдеру.
  • Лицензия — FSL-1.1-Apache-2.0 (исходный код доступен), а не стандартная лицензия с открытым исходным кодом.
  • В README не указано, какая настройка Node/Bun требуется помимо npm install и среды выполнения Bun.

В подборках

Темы

Частые вопросы

Что такое zeroleaks?
CLI-сканер и библиотека для red team-проверок системных промптов и инструкций агентов на уязвимости к извлечению промпта и prompt injection. ZeroLeaks загружает системный промпт в выбранную вами модель, проверяет её на атаки с извлечением промпта и prompt injection и показывает, насколько хорошо промпт выдержал испытание. Тесты на извлечение проверяют, можно ли разговорить модель и заставить её раскрыть собственный системный промпт. Тесты на инъекции проверяют, выполняет ли она инструкции, скрытые в документах, результатах инструментов или поддельных сообщениях администратора, а также соглашается ли она злоупотреблять инструментами.
zeroleaks можно использовать бесплатно? Какая у него лицензия?
zeroleaks распространяется с открытым исходным кодом под лицензией Other. Перед использованием в коммерческих продуктах проверьте условия лицензии.
zeroleaks всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в zeroleaks — 26 сент. 2026 г..
Для чего можно использовать zeroleaks?
Проверка системного промпта чат-бота для клиентов перед развёртыванием. Проверка того, сопротивляется ли агент инструкциям, скрытым в извлечённых документах или результатах работы инструментов. Добавление регрессионных проверок безопасности промптов в CI-пайплайн. Сравнение устойчивости разных моделей к одному и тому же промпту.
Как установить zeroleaks?
Установите пакет с помощью npm: npm install zeroleaks Укажите свой API-ключ OpenRouter: export OPENROUTER_API_KEY=sk-or-... Просканируйте системный промпт из командной строки: zeroleaks scan --prompt "You are a helpful assistant..."
Где скачать zeroleaks?
Исходный код и инструкции по установке — на GitHub: https://github.com/ZeroLeaks/zeroleaks

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

CLI и библиотека с открытым исходным кодом для проверки файлов моделей ИИ, кода, работающих конечных точек LLM/агентов/MCP и записанных трасс агентов с отчетом о проблемах и пробелах в проверках.

20317PythonApache-2.0Обновлён 8 часов назад