Repolode
Enviar
Lelu-ai

Lelu-ai/lelu

Motor de autorización de código abierto que verifica cada acción de un agente de IA y decide si la permite, la deniega, requiere revisión humana o la redirige antes de ejecutarla.

Ver en GitHubSitio web
Estrellas
71
Forks
18
Issues abiertos
14
Último commit
hace 4 días

¿Qué es?

Lelu se interpone entre un agente de IA y las acciones que quiere realizar, como emitir un reembolso, enviar un correo electrónico o eliminar un registro. Antes de actuar, el agente hace una llamada HTTP a Lelu, que devuelve uno de cuatro resultados: allow, deny con un motivo, human_review para pausar la acción hasta que una persona la apruebe, o compute para redirigirla a una alternativa más segura o a un sandbox. Todas las decisiones se registran en un log de auditoría.

Además de las comprobaciones de roles y permisos que ofrecen herramientas como OPA, Casbin o AWS AVP, Lelu incorpora detección de prompt injection, umbrales de confianza basados en log-probs verificados de tokens de LLM y puntuación de anomalías de comportamiento. Las políticas se pueden escribir como roles YAML o en OPA/Rego. El motor está escrito en Go y se ejecuta localmente con un único comando npx, o se puede alojar por cuenta propia en SQLite o Postgres.

Se proporcionan SDK de TypeScript y Python, un SDK de Go y un servidor MCP. Un plugin de Claude Code se conecta a las llamadas Bash, Edit y Write mediante el hook PreToolUse y, de forma predeterminada, se ejecuta en modo shadow.

Funciones clave

  • 01Devuelve decisiones allow, deny, human_review o compute para cada acción del agente.
  • 02Detecta prompt injection con un filtro de cinco capas.
  • 03Condiciona las acciones a señales verificadas de confianza del LLM.
  • 04Admite políticas YAML y OPA/Rego con evaluación que prioriza las denegaciones.
  • 05Envía las decisiones dudosas a una cola de revisión humana integrada con Slack, Teams o PagerDuty.
  • 06Registra todas las decisiones en un log de auditoría.

Casos de uso

  • Proteger un agente de programación para que la instalación de paquetes, los despliegues y el acceso a archivos secretos requieran aprobación.
  • Añadir un paso de aprobación humana antes de que un agente emita reembolsos o envíe correos electrónicos externos.
  • Bloquear comandos destructivos en una sesión desatendida de Claude Code.
  • Añadir comprobaciones de autorización a agentes basados en LangChain, CrewAI o MCP sin reescribirlos.

Inicio rápido

  1. 1

    Inicia el motor local sin configuración

    npx -y lelu-mcp start
  2. 2

    Instala el SDK de TypeScript

    npm install lelu-agent-auth

Antes de usarlo

  • Confidence gating requiere log-probs verificados del proveedor, por lo que modelos como Anthropic Claude recurren a una política para cuando falta la señal.
  • Aún está en una fase temprana: tiene 68 estrellas y es un proyecto joven que prioriza el uso de un entorno aislado.

En colecciones

Frameworks y apps de agentes de IA open source

Temas

#agent-security#ai-agents#authorization#guardrails#prompt-injection#llm-security#policy-as-code#human-in-the-loop#ai#ai-guardrails

Preguntas frecuentes

¿Qué es lelu?
Motor de autorización de código abierto que verifica cada acción de un agente de IA y decide si la permite, la deniega, requiere revisión humana o la redirige antes de ejecutarla. Lelu se interpone entre un agente de IA y las acciones que quiere realizar, como emitir un reembolso, enviar un correo electrónico o eliminar un registro. Antes de actuar, el agente hace una llamada HTTP a Lelu, que devuelve uno de cuatro resultados: allow, deny con un motivo, human_review para pausar la acción hasta que una persona la apruebe, o compute para redirigirla a una alternativa más segura o a un sandbox. Todas las decisiones se registran en un log de auditoría.
¿lelu es gratuito? ¿Qué licencia tiene?
lelu es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿lelu sigue mantenido?
Mantenimiento activo. El último commit de lelu fue el 4 nov 2026.
¿Para qué puedo usar lelu?
Proteger un agente de programación para que la instalación de paquetes, los despliegues y el acceso a archivos secretos requieran aprobación. Añadir un paso de aprobación humana antes de que un agente emita reembolsos o envíe correos electrónicos externos. Bloquear comandos destructivos en una sesión desatendida de Claude Code. Añadir comprobaciones de autorización a agentes basados en LangChain, CrewAI o MCP sin reescribirlos.
¿Cómo se instala lelu?
Inicia el motor local sin configuración: npx -y lelu-mcp start Instala el SDK de TypeScript: npm install lelu-agent-auth
¿Dónde consigo lelu?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/Lelu-ai/lelu

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados

pipelab-org / pipelock

Firewall de código abierto para agentes de IA que se interpone entre los agentes y la red para bloquear la exfiltración de secretos, la inyección de prompts, SSRF y el envenenamiento de herramientas MCP, con recibos de acciones firmados.

Seguridad#agent-security#mcp#prompt-injection
987+11 esta semana113GoApache-2.0Bien mantenidoActualizado hace 2 horas