Repolode
LazyAGI

LazyAGI/LazyLLM

Framework de Python low-code para crear aplicaciones LLM multiagente, con RAG, chatbots, fine-tuning y despliegue con un solo clic.

Estrellas
3,891
Forks
430
Issues abiertos
77
Último commit
ayer

¿Qué es?

LazyLLM es una herramienta de desarrollo low-code para crear aplicaciones basadas en modelos de lenguaje grandes y multiagente. Incluye flujos predefinidos, como pipeline, parallel, diverter y loop, que permiten a los desarrolladores ensamblar flujos de trabajo a partir de funciones y módulos sin escribir demasiado código de orquestación.

El framework está pensado para cubrir el ciclo desde el prototipo hasta producción: crear rápidamente una aplicación funcional, analizar los casos que fallan con datos específicos de la tarea y, después, iterar sobre los algoritmos o ajustar los modelos. Ofrece una interfaz unificada para servicios de modelos en línea de varios proveedores y para modelos desplegados localmente mediante frameworks de inferencia como vLLM y LightLLM. También incluye componentes RAG como Document, Retriever y Reranker.

El despliegue forma parte del diseño. Las aplicaciones se pueden iniciar con un solo comando, una gateway ligera gestiona las conexiones entre los servicios de los submódulos y la aplicación se puede empaquetar como una imagen para Kubernetes. El mismo código puede ejecutarse en hardware bare metal, máquinas de desarrollo, clústeres Slurm o nubes públicas.

Funciones clave

  • 01Ensamblaje low-code de flujos de trabajo a partir de funciones y módulos mediante flujos pipeline, parallel y loop.
  • 02Interfaz unificada para API de modelos en línea y modelos desplegados localmente.
  • 03Componentes RAG integrados para analizar documentos, recuperar información y reordenar resultados.
  • 04Despliegue con un solo clic mediante una gateway ligera y empaquetado de imágenes para Kubernetes.
  • 05Compatibilidad con fine-tuning y selección automática de frameworks y estrategias de partición de modelos.
  • 06Ejecución multiplataforma en hardware bare metal, Slurm y nubes públicas.

Casos de uso

  • Crear un bot de preguntas y respuestas con generación aumentada por recuperación sobre tus propios documentos.
  • Prototipar un chatbot multiagente que dirija las solicitudes a modelos de chat, voz o imagen.
  • Convertir un pipeline prototipo en un servicio desplegable en Kubernetes.
  • Comparar modelos en línea y locales con el mismo código de aplicación.

Inicio rápido

  1. 1

    Instala lazyllm con pip

    pip3 install lazyllm
  2. 2

    Instala todas las dependencias (opcional)

    lazyllm install full
  3. 3

    Configura tu clave de API de OpenAI como variable de entorno y, después, inicia un chatbot con el comando incluido

    lazyllm run chatbot

Antes de usarlo

  • La inferencia con modelos locales requiere al menos un framework de inferencia, como lightllm o vllm, que normalmente necesita una GPU.
  • Para instalarlo en Windows y macOS, consulta el tutorial de configuración independiente de la documentación.

En colecciones

Temas

Preguntas frecuentes

¿Qué es LazyLLM?
Framework de Python low-code para crear aplicaciones LLM multiagente, con RAG, chatbots, fine-tuning y despliegue con un solo clic. LazyLLM es una herramienta de desarrollo low-code para crear aplicaciones basadas en modelos de lenguaje grandes y multiagente. Incluye flujos predefinidos, como pipeline, parallel, diverter y loop, que permiten a los desarrolladores ensamblar flujos de trabajo a partir de funciones y módulos sin escribir demasiado código de orquestación.
¿LazyLLM es gratuito? ¿Qué licencia tiene?
LazyLLM es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿LazyLLM sigue mantenido?
Mantenimiento activo. El último commit de LazyLLM fue el 6 nov 2026.
¿Para qué puedo usar LazyLLM?
Crear un bot de preguntas y respuestas con generación aumentada por recuperación sobre tus propios documentos. Prototipar un chatbot multiagente que dirija las solicitudes a modelos de chat, voz o imagen. Convertir un pipeline prototipo en un servicio desplegable en Kubernetes. Comparar modelos en línea y locales con el mismo código de aplicación.
¿Cómo se instala LazyLLM?
Instala lazyllm con pip: pip3 install lazyllm Instala todas las dependencias (opcional): lazyllm install full Configura tu clave de API de OpenAI como variable de entorno y, después, inicia un chatbot con el comando incluido: lazyllm run chatbot
¿Dónde consigo LazyLLM?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/LazyAGI/LazyLLM

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados