单文件本地运行 GGUF 大模型的工具,内置 KoboldAI 网页界面,支持文本、图像、语音和音乐生成。
- Star
- 4,793
- Fork
- 584
- 未关闭 Issue
- 177
- 最近提交
- 4天前
这是什么?
LoLLMs WebUI 是一个面向单用户的网页界面,用于调用大语言模型和其他生成式 AI 模型。它可以连接多种后端,包括本地的 Hugging Face 模型、GGUF/GGML 模型、EXLlama v2 模型,以及 Ollama、vLLM、OpenAI、Anthropic、OpenRouter、Novita AI 等服务,在同一个界面中切换使用。
除文本对话外,它还支持预设人格与欢迎语、本地数据库保存会话,并可批量搜索、导出和删除对话。图像生成方面支持 Stable Diffusion、Flux、ComfyUI 和 DALL-E,视频生成和 MusicGen 音乐生成也在支持范围内。
项目提供 Windows、Linux 和 macOS 的安装脚本,也支持 Docker 以及基于 Python 3.11 的手动安装。维护者提示该项目将逐步被功能更完整的新版 lollms 项目取代。
核心功能
- 01同时支持本地模型(Hugging Face、GGUF/GGML、EXLlama v2)和 OpenAI、Anthropic、Ollama 等远程服务
- 02每个任务可自由选择模型与人格
- 03会话保存在本地数据库,支持搜索、导出和批量删除
- 04可通过多个服务商生成图像、视频和音乐
- 05支持根据任务复杂度将提示路由到不同模型
- 06提供安装脚本、Docker 和手动 Python 三种运行方式
适用场景
- 在本地运行模型进行对话,避免数据发送到云端
- 在同一界面中对比多个大模型后端的回答
- 用同一前端尝试文本、图像和音乐生成
- 搭建个人 AI 工作台,用于写作、编程辅助和整理资料
快速上手
- 1
确认已安装 Python 3.11
python --version - 2
克隆仓库及子模块
git clone --recursive https://github.com/ParisNeo/lollms-webui.git - 3
安装依赖和核心库
pip install -r requirements.txt - 4
启动服务器
python app.py
使用前须知
- 没有内置用户认证,不适合直接对外或多用户访问。
- 手动安装需要 Python 3.11,并需要逐个选择安装所需的绑定。
收录于专题
标签
常见问题
- lollms-webui 是什么?
- 一个可自部署的网页界面,用于运行和对话本地及云端大模型,支持多种后端、图像与音乐生成以及提示路由。 LoLLMs WebUI 是一个面向单用户的网页界面,用于调用大语言模型和其他生成式 AI 模型。它可以连接多种后端,包括本地的 Hugging Face 模型、GGUF/GGML 模型、EXLlama v2 模型,以及 Ollama、vLLM、OpenAI、Anthropic、OpenRouter、Novita AI 等服务,在同一个界面中切换使用。
- lollms-webui 可以免费使用吗?用的什么许可证?
- lollms-webui 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- lollms-webui 还在维护吗?
- 活跃维护中。lollms-webui 最近一次提交是在 2026年11月3日。
- lollms-webui 适合用来做什么?
- 在本地运行模型进行对话,避免数据发送到云端 在同一界面中对比多个大模型后端的回答 用同一前端尝试文本、图像和音乐生成 搭建个人 AI 工作台,用于写作、编程辅助和整理资料
- lollms-webui 怎么安装和运行?
- 确认已安装 Python 3.11: python --version 克隆仓库及子模块: git clone --recursive https://github.com/ParisNeo/lollms-webui.git 安装依赖和核心库: pip install -r requirements.txt 启动服务器: python app.py
- 在哪里获取 lollms-webui?
- 源代码和安装说明在 GitHub 上:https://github.com/ParisNeo/lollms-webui
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
1.2万+74 本周808C++AGPL-3.0维护活跃更新于 19小时前
可自托管的 AI 聊天界面,支持 Ollama 与 OpenAI 兼容 API,内置 RAG、插件和多用户权限管理。
15.8万+671 本周2.3万PythonOther维护活跃更新于 19小时前
一个本地安装的高级用户界面,可统一对接多种 LLM API、图像生成与 TTS 语音模型。
3.5万+214 本周6658JavaScriptAGPL-3.0更新于 上个月
开源 MCP 宿主桌面应用,可将支持函数调用的各类大模型连接到 MCP 工具。
1823172TypeScriptMIT更新于 3个月前
一款开源桌面应用,用于在本地运行大语言模型,提供聊天界面和兼容 OpenAI/Anthropic 的 API。
4.8万+7 本周5978PythonAGPL-3.0更新于 3个月前
一个命令行工具和 Python 库,用于调用远程及本地部署的大语言模型运行提示词和对话。
1.3万+31 本周1080PythonApache-2.0更新于 昨天