在消费级硬件上搭建本地小型大模型,并提供类 ChatGPT 网页聊天界面的部署指南与项目。
mrdjohnson/llm-x
面向 Ollama、LM Studio、AUTOMATIC1111 等本地大模型服务的浏览器聊天界面,提供网页、PWA 和 Chrome 扩展形式。
可替代:ChatGPT
- Star
- 296
- Fork
- 38
- 未关闭 Issue
- 6
- 最近提交
- 上个月
这是什么?
LLM X 是一个类 ChatGPT 的界面,用于在自己的机器上运行语言模型和图像模型。它可以连接 Ollama、llmman、LM Studio、AUTOMATIC1111 以及兼容 OpenAI 接口的服务,也可以通过 Chrome 调用 Gemini Nano。聊天记录、图片和生成内容保存在浏览器中,应用本身不发起外部 API 请求。
项目提供三种使用方式:可离线使用的网页应用(PWA)、Chrome 扩展,以及基于 Vite 或 Docker 的源码部署。单个对话可以同时发送给多个模型,用户还能管理多个会话、编辑或重新生成消息、通过 Personas 自定义系统提示词,并导入导出聊天记录。支持将图片发给多模态模型,并可通过 Ollama 和 AUTOMATIC1111 生成图片。
前端基于 React、TypeScript、MobX 和 Tailwind/DaisyUI 构建,模型交互使用 LangChain.js。网页版只会连接安全上下文,因此远程服务器需要使用 HTTPS。
核心功能
- 01可连接 Ollama、llmman、LM Studio、AUTOMATIC1111 及兼容 OpenAI 接口的服务。
- 02同一对话可同时发送给多个模型并获得各自回复。
- 03支持向多模态模型发送图片,并通过 Ollama 或 AUTOMATIC1111 生成图片。
- 04作为 PWA 可离线使用,也提供 Chrome 扩展版本。
- 05通过 Personas 自定义系统提示词,并支持聊天记录导入导出。
- 06回复中支持代码高亮和 LaTeX 公式渲染。
适用场景
- 在自己的笔记本或家庭服务器上与本地模型对话,数据不上传云端。
- 在同一会话中并排对比多个本地模型的回答。
- 上传图片并让本地多模态模型回答相关问题。
- 通过浏览器扩展使用 Chrome 内置的 Gemini Nano。
快速上手
- 1
从 ollama.com 安装 Ollama
- 2
启动 Ollama 并允许 LLM-X 的来源访问
OLLAMA_ORIGINS=https://mrdjohnson.github.io ollama serve - 3
在浏览器中打开 LLM-X 网页应用并开始聊天
使用前须知
- 网页应用只能连接使用 HTTPS 的远程服务器,因此远程使用需要安全的服务器。
- 你需要自行安装并运行 Ollama、LM Studio 或 AUTOMATIC1111 等本地模型服务器。
- 使用 Gemini Nano 需要在 Chrome Canary 中启用实验性功能标志。
收录于专题
标签
常见问题
- llm-x 是什么?
- 面向 Ollama、LM Studio、AUTOMATIC1111 等本地大模型服务的浏览器聊天界面,提供网页、PWA 和 Chrome 扩展形式。 LLM X 是一个类 ChatGPT 的界面,用于在自己的机器上运行语言模型和图像模型。它可以连接 Ollama、llmman、LM Studio、AUTOMATIC1111 以及兼容 OpenAI 接口的服务,也可以通过 Chrome 调用 Gemini Nano。聊天记录、图片和生成内容保存在浏览器中,应用本身不发起外部 API 请求。
- llm-x 可以免费使用吗?用的什么许可证?
- llm-x 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- llm-x 还在维护吗?
- 半年内有更新。llm-x 最近一次提交是在 2026年9月29日。
- llm-x 适合用来做什么?
- 在自己的笔记本或家庭服务器上与本地模型对话,数据不上传云端。 在同一会话中并排对比多个本地模型的回答。 上传图片并让本地多模态模型回答相关问题。 通过浏览器扩展使用 Chrome 内置的 Gemini Nano。
- llm-x 怎么安装和运行?
- 从 ollama.com 安装 Ollama 启动 Ollama 并允许 LLM-X 的来源访问: OLLAMA_ORIGINS=https://mrdjohnson.github.io ollama serve 在浏览器中打开 LLM-X 网页应用并开始聊天
- 在哪里获取 llm-x?
- 源代码和安装说明在 GitHub 上:https://github.com/mrdjohnson/llm-x
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
基于 Tauri 2.0 与 Next.js 的轻量桌面 AI 聊天客户端,支持云端与本地模型,数据存于本地。
一款浏览器扩展,为 Ollama 等本地 AI 模型提供侧边栏和网页界面,可在浏览时直接对话。
基于浏览器的本地大模型聊天界面,对接 Ollama,聊天记录保存在本机 IndexedDB 中。
Cherry Studio 是一款跨平台桌面 AI 客户端,可接入多家大模型服务、本地模型及 300 多个预置助手。
一个可自部署的网页界面,用于运行和对话本地及云端大模型,支持多种后端、图像与音乐生成以及提示路由。