Repolode
ParisNeo

ParisNeo/lollms-webui

一个可自部署的网页界面,用于运行和对话本地及云端大模型,支持多种后端、图像与音乐生成以及提示路由。

可替代:ChatGPT

Star
4,793
Fork
584
未关闭 Issue
177
最近提交
4天前

这是什么?

LoLLMs WebUI 是一个面向单用户的网页界面,用于调用大语言模型和其他生成式 AI 模型。它可以连接多种后端,包括本地的 Hugging Face 模型、GGUF/GGML 模型、EXLlama v2 模型,以及 Ollama、vLLM、OpenAI、Anthropic、OpenRouter、Novita AI 等服务,在同一个界面中切换使用。

除文本对话外,它还支持预设人格与欢迎语、本地数据库保存会话,并可批量搜索、导出和删除对话。图像生成方面支持 Stable Diffusion、Flux、ComfyUI 和 DALL-E,视频生成和 MusicGen 音乐生成也在支持范围内。

项目提供 Windows、Linux 和 macOS 的安装脚本,也支持 Docker 以及基于 Python 3.11 的手动安装。维护者提示该项目将逐步被功能更完整的新版 lollms 项目取代。

核心功能

  • 01同时支持本地模型(Hugging Face、GGUF/GGML、EXLlama v2)和 OpenAI、Anthropic、Ollama 等远程服务
  • 02每个任务可自由选择模型与人格
  • 03会话保存在本地数据库,支持搜索、导出和批量删除
  • 04可通过多个服务商生成图像、视频和音乐
  • 05支持根据任务复杂度将提示路由到不同模型
  • 06提供安装脚本、Docker 和手动 Python 三种运行方式

适用场景

  • 在本地运行模型进行对话,避免数据发送到云端
  • 在同一界面中对比多个大模型后端的回答
  • 用同一前端尝试文本、图像和音乐生成
  • 搭建个人 AI 工作台,用于写作、编程辅助和整理资料

快速上手

  1. 1

    确认已安装 Python 3.11

    python --version
  2. 2

    克隆仓库及子模块

    git clone --recursive https://github.com/ParisNeo/lollms-webui.git
  3. 3

    安装依赖和核心库

    pip install -r requirements.txt
  4. 4

    启动服务器

    python app.py

使用前须知

  • 没有内置用户认证,不适合直接对外或多用户访问。
  • 手动安装需要 Python 3.11,并需要逐个选择安装所需的绑定。

收录于专题

标签

常见问题

lollms-webui 是什么?
一个可自部署的网页界面,用于运行和对话本地及云端大模型,支持多种后端、图像与音乐生成以及提示路由。 LoLLMs WebUI 是一个面向单用户的网页界面,用于调用大语言模型和其他生成式 AI 模型。它可以连接多种后端,包括本地的 Hugging Face 模型、GGUF/GGML 模型、EXLlama v2 模型,以及 Ollama、vLLM、OpenAI、Anthropic、OpenRouter、Novita AI 等服务,在同一个界面中切换使用。
lollms-webui 可以免费使用吗?用的什么许可证?
lollms-webui 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
lollms-webui 还在维护吗?
活跃维护中。lollms-webui 最近一次提交是在 2026年11月3日。
lollms-webui 适合用来做什么?
在本地运行模型进行对话,避免数据发送到云端 在同一界面中对比多个大模型后端的回答 用同一前端尝试文本、图像和音乐生成 搭建个人 AI 工作台,用于写作、编程辅助和整理资料
lollms-webui 怎么安装和运行?
确认已安装 Python 3.11: python --version 克隆仓库及子模块: git clone --recursive https://github.com/ParisNeo/lollms-webui.git 安装依赖和核心库: pip install -r requirements.txt 启动服务器: python app.py
在哪里获取 lollms-webui?
源代码和安装说明在 GitHub 上:https://github.com/ParisNeo/lollms-webui

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目