Repolode
SomeOddCodeGuy

SomeOddCodeGuy/WilmerAI

Un router semántico de LLM autohospedado que conecta tu aplicación con varias API de LLM y ejecuta flujos de prompts de varios pasos mediante un endpoint compatible con OpenAI u Ollama.

Estrellas
830
Forks
52
Issues abiertos
3
Último commit
hace 13 días

¿Qué es?

WilmerAI dirige las solicitudes a distintos LLM según el historial completo de la conversación, no solo el mensaje más reciente. El enrutamiento y el procesamiento se definen mediante flujos de trabajo JSON basados en nodos. Cada nodo puede llamar a un endpoint de LLM distinto, ejecutar una herramienta o un script, o invocar otro flujo de trabajo. La aplicación cliente ve todo el proceso de varios pasos como una única llamada a la API estándar.

El proyecto ofrece endpoints de chat y generación compatibles con OpenAI y Ollama, por lo que las interfaces existentes, como Open WebUI y SillyTavern, pueden conectarse sin modificaciones. En el backend se conecta a Claude, servidores compatibles con OpenAI, Ollama y KoboldCpp. También incluye un sistema de memoria de conversación de cuatro componentes y llamadas experimentales a herramientas MCP.

WilmerAI no registra el uso de tokens, así que los operadores deben supervisar los costos desde los paneles de sus proveedores de LLM. La calidad de los resultados depende en gran medida de los modelos conectados y de los prompts.

Funciones clave

  • 01Enruta prompts según el contexto completo de la conversación mediante flujos de trabajo configurables.
  • 02Encadena varios LLM y herramientas en un mismo flujo de trabajo mediante definiciones JSON basadas en nodos.
  • 03Ofrece endpoints compatibles con OpenAI y Ollama para conectarse a interfaces existentes.
  • 04Se conecta a backends de Claude, OpenAI compatibles, Ollama y KoboldCpp.
  • 05Ofrece memoria de conversación con búsquedas por palabras clave y, de forma opcional, mediante embeddings.
  • 06Admite el passthrough de llamadas a herramientas al estilo de OpenAI y salidas estructuradas con JSON Schema.

Casos de uso

  • Dirigir distintos tipos de solicitudes de chat a modelos locales o en la nube especializados.
  • Añadir recuperación de información o consultas web a un chatbot antes de la llamada final al LLM.
  • Usar equipos antiguos como workers de LLM en un pipeline con varios modelos.
  • Mantener la lógica de los prompts en tu propio servidor sin modificar las interfaces.

Antes de usarlo

  • El proyecto aún está en desarrollo y se proporciona tal cual, sin garantía.
  • Está bajo la licencia GPL-3.0, una licencia copyleft que exige que las obras derivadas sigan siendo de código abierto.
  • El Web fetcher requiere Python 3.13.14/3.14.5 o posterior; las demás funciones se ejecutan con Python 3.11.10/3.12.13.
  • La integración con herramientas Agentic MCP es experimental.

En colecciones

Temas

Preguntas frecuentes

¿Qué es WilmerAI?
Un router semántico de LLM autohospedado que conecta tu aplicación con varias API de LLM y ejecuta flujos de prompts de varios pasos mediante un endpoint compatible con OpenAI u Ollama. WilmerAI dirige las solicitudes a distintos LLM según el historial completo de la conversación, no solo el mensaje más reciente. El enrutamiento y el procesamiento se definen mediante flujos de trabajo JSON basados en nodos. Cada nodo puede llamar a un endpoint de LLM distinto, ejecutar una herramienta o un script, o invocar otro flujo de trabajo. La aplicación cliente ve todo el proceso de varios pasos como una única llamada a la API estándar.
¿WilmerAI es gratuito? ¿Qué licencia tiene?
WilmerAI es open source bajo la licencia GPL-3.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿WilmerAI sigue mantenido?
Mantenimiento activo. El último commit de WilmerAI fue el 25 oct 2026.
¿Para qué puedo usar WilmerAI?
Dirigir distintos tipos de solicitudes de chat a modelos locales o en la nube especializados. Añadir recuperación de información o consultas web a un chatbot antes de la llamada final al LLM. Usar equipos antiguos como workers de LLM en un pipeline con varios modelos. Mantener la lógica de los prompts en tu propio servidor sin modificar las interfaces.
¿Dónde consigo WilmerAI?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/SomeOddCodeGuy/WilmerAI

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados