Repolode
Enviar
ZeroLeaks

ZeroLeaks/zeroleaks

Escáner de línea de comandos y biblioteca que somete prompts de sistema e instrucciones de agentes a pruebas de red team para detectar vulnerabilidades de extracción e inyección de prompts.

Ver en GitHubSitio web
Estrellas
744
Forks
112
Issues abiertos
1
Último commit
el mes pasado

¿Qué es?

ZeroLeaks carga un prompt de sistema en el modelo que elijas, lo ataca con pruebas de extracción e inyección y muestra qué tan bien resistió el prompt. Las pruebas de extracción comprueban si se puede convencer al modelo de que revele su propio prompt de sistema. Las pruebas de inyección comprueban si sigue instrucciones ocultas en documentos, resultados de herramientas o mensajes falsos de administrador, y si acepta usar herramientas de forma indebida.

El escáner se ejecuta localmente con tus propias claves de proveedores de modelos; usa OpenRouter de forma predeterminada o se conecta directamente a OpenAI. Varios agentes planifican ataques, leen las respuestas del objetivo y cambian de táctica durante el análisis. Un LLM evaluador califica cada resultado como cumplimiento total, parcial o rechazo. El corpus de inyección contiene 78 pruebas de comportamiento que cubren categorías como el secuestro de herramientas, la inyección indirecta y la manipulación progresiva en varios turnos.

El paquete se distribuye como CLI y biblioteca de TypeScript, y funciona con cualquier endpoint compatible con OpenAI, como Ollama, vLLM o LiteLLM. Genera un informe en color para la terminal o en JSON, y usa códigos de salida para ejecutarse en CI. El proyecto permite consultar el código fuente bajo la licencia FSL, pero no es de código abierto.

Funciones clave

  • 01Ejecuta análisis de extracción e inyección contra un prompt de sistema.
  • 02Usa varios agentes que planifican ataques y ajustan sus tácticas durante el análisis.
  • 03Incluye 78 pruebas de inyección de comportamiento repartidas en seis categorías.
  • 04Usa un LLM evaluador para determinar si el modelo realmente cumplió las instrucciones.
  • 05Admite modelos separados para el atacante, el objetivo, el evaluador y el juez.
  • 06Funciona con OpenRouter, OpenAI y endpoints locales o alojados compatibles con OpenAI.
  • 07Genera informes para la terminal o en JSON, con códigos de salida para CI.

Casos de uso

  • Probar el prompt de sistema de un chatbot de cara al cliente antes de su despliegue.
  • Comprobar si un agente resiste instrucciones ocultas en documentos recuperados o en resultados de herramientas.
  • Añadir pruebas de regresión de seguridad de prompts a un pipeline de CI.
  • Comparar cómo resisten distintos modelos el mismo prompt.

Inicio rápido

  1. 1

    Instala el paquete con npm

    npm install zeroleaks
  2. 2

    Configura tu clave de API de OpenRouter

    export OPENROUTER_API_KEY=sk-or-...
  3. 3

    Analiza un prompt del sistema desde la línea de comandos

    zeroleaks scan --prompt "You are a helpful assistant..."

Antes de usarlo

  • Necesitas tu propia clave de API del proveedor del modelo y pagas al proveedor por cada análisis.
  • La licencia es FSL-1.1-Apache-2.0 (con código fuente disponible), no una licencia de código abierto estándar.
  • El README no indica qué configuración de Node/Bun se necesita, aparte de npm install y el runtime de Bun.

En colecciones

Frameworks y apps de agentes de IA open sourceHerramientas de CLI y terminal

Temas

#llm-security#prompt-injection#red-teaming#ai-agents#cli#typescript#security-testing

Preguntas frecuentes

¿Qué es zeroleaks?
Escáner de línea de comandos y biblioteca que somete prompts de sistema e instrucciones de agentes a pruebas de red team para detectar vulnerabilidades de extracción e inyección de prompts. ZeroLeaks carga un prompt de sistema en el modelo que elijas, lo ataca con pruebas de extracción e inyección y muestra qué tan bien resistió el prompt. Las pruebas de extracción comprueban si se puede convencer al modelo de que revele su propio prompt de sistema. Las pruebas de inyección comprueban si sigue instrucciones ocultas en documentos, resultados de herramientas o mensajes falsos de administrador, y si acepta usar herramientas de forma indebida.
¿zeroleaks es gratuito? ¿Qué licencia tiene?
zeroleaks es open source bajo la licencia Other. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿zeroleaks sigue mantenido?
Actualizado en los últimos 6 meses. El último commit de zeroleaks fue el 26 sept 2026.
¿Para qué puedo usar zeroleaks?
Probar el prompt de sistema de un chatbot de cara al cliente antes de su despliegue. Comprobar si un agente resiste instrucciones ocultas en documentos recuperados o en resultados de herramientas. Añadir pruebas de regresión de seguridad de prompts a un pipeline de CI. Comparar cómo resisten distintos modelos el mismo prompt.
¿Cómo se instala zeroleaks?
Instala el paquete con npm: npm install zeroleaks Configura tu clave de API de OpenRouter: export OPENROUTER_API_KEY=sk-or-... Analiza un prompt del sistema desde la línea de comandos: zeroleaks scan --prompt "You are a helpful assistant..."
¿Dónde consigo zeroleaks?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/ZeroLeaks/zeroleaks

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados