Repolode
提交项目
LazyAGI

LazyAGI/LazyLLM

低代码 Python 框架，用于构建多智能体大模型应用，涵盖 RAG、对话机器人、微调与一键部署。

在 GitHub 查看官网
Star
3,891
Fork
430
未关闭 Issue
77
最近提交
昨天

这是什么？

LazyLLM 是一个低代码开发工具，用于构建多智能体大语言模型应用。它提供 pipeline、parallel、diverter、loop 等现成的数据流组件，开发者可以直接用函数和模块拼装工作流，不必编写大量编排代码。

框架面向从原型到上线的迭代过程：先快速搭出可用的应用，再基于业务数据分析错误案例，进而优化算法或微调模型。它为多家在线模型服务和通过 vLLM、LightLLM 等推理框架部署的本地模型提供统一接口，并内置 Document、Retriever、Reranker 等 RAG 组件。

部署也是框架的重点。应用可以通过一条命令启动，轻量级网关负责连接各子模块服务，也可以打包成镜像部署到 Kubernetes。同一份代码可在裸机、开发机、Slurm 集群或公有云上运行。

核心功能

  • 01通过 pipeline、parallel、loop 等数据流，用函数和模块低代码组装工作流。
  • 02为在线模型 API 与本地部署模型提供统一调用接口。
  • 03内置文档解析、检索、重排序等 RAG 组件。
  • 04支持一键部署，提供轻量网关，并可打包镜像用于 Kubernetes。
  • 05支持在应用内微调模型，自动选择微调框架和模型切分策略。
  • 06同一代码可在裸机、Slurm 集群和公有云等平台间迁移运行。

适用场景

  • 基于自有文档搭建检索增强的问答机器人。
  • 原型开发多智能体对话系统，将请求分发给对话、语音或图像模型。
  • 将原型流程部署为 Kubernetes 上的服务。
  • 在同一套应用代码下对比在线模型与本地模型的效果。

快速上手

  1. 1

    使用 pip 安装 lazyllm

    pip3 install lazyllm
  2. 2

    安装所有依赖（可选）

    lazyllm install full
  3. 3

    将 OpenAI API 密钥设置为环境变量，然后使用内置命令启动聊天机器人

    lazyllm run chatbot

使用前须知

  • 本地模型推理需要至少安装 lightllm 或 vllm 等推理框架，通常需要 GPU。
  • 在 Windows 或 macOS 上安装需要参考文档中单独的教程。

收录于专题

多智能体编排框架开源 AI Agent 框架与应用

标签

#ai-agent#llm#rag#multi-agent#fine-tuning#low-code#python#inference#agents#data

常见问题

LazyLLM 是什么？
低代码 Python 框架，用于构建多智能体大模型应用，涵盖 RAG、对话机器人、微调与一键部署。 LazyLLM 是一个低代码开发工具，用于构建多智能体大语言模型应用。它提供 pipeline、parallel、diverter、loop 等现成的数据流组件，开发者可以直接用函数和模块拼装工作流，不必编写大量编排代码。
LazyLLM 可以免费使用吗？用的什么许可证？
LazyLLM 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。
LazyLLM 还在维护吗？
活跃维护中。LazyLLM 最近一次提交是在 2026年11月6日。
LazyLLM 适合用来做什么？
基于自有文档搭建检索增强的问答机器人。 原型开发多智能体对话系统，将请求分发给对话、语音或图像模型。 将原型流程部署为 Kubernetes 上的服务。 在同一套应用代码下对比在线模型与本地模型的效果。
LazyLLM 怎么安装和运行？
使用 pip 安装 lazyllm: pip3 install lazyllm 安装所有依赖（可选）: lazyllm install full 将 OpenAI API 密钥设置为环境变量，然后使用内置命令启动聊天机器人: lazyllm run chatbot
在哪里获取 LazyLLM？
源代码和安装说明在 GitHub 上：https://github.com/LazyAGI/LazyLLM

概要由 AI 根据项目 README 生成；GitHub 数据每日更新。

相关项目