自托管的 AI 智能体团队编排应用,提供组织架构、任务管理、预算与治理功能。
- Star
- 67,308
- Fork
- 7,535
- 未关闭 Issue
- 354
- 最近提交
- 3天前
这是什么?
AnythingLLM 是一款可自托管的一体化 AI 应用,用于基于自有文档搭建私有的类 ChatGPT 助手。你可以接入本地模型(内置基于 llama.cpp 的引擎,也支持 Ollama、LM Studio 等),也可以接入 OpenAI、Anthropic、Gemini 等云端大模型,然后上传文件创建工作区,让模型基于这些内容回答问题。
除文档问答外,它还提供带工具调用的 AI 智能体、无代码智能体构建器、定时任务、MCP 兼容以及跨服务商的模型路由。Docker 版本支持多用户并可按用户设置权限;同时提供开发者 API 和可嵌入网站的聊天组件,便于定制集成。
项目支持多种向量数据库(默认 LanceDB,另支持 PGVector、Pinecone、Qdrant、Weaviate 等)以及多种嵌入模型和语音方案。仓库采用 monorepo 结构,包含 React 前端、Express 服务端和文档处理服务,另有 Mac、Windows、Linux 桌面版可下载。
核心功能
- 01与 PDF、TXT、DOCX 等上传文档对话,并显示引用来源
- 02内置本地大模型引擎,支持 CPU 与 GPU,同时可接入众多云端和本地模型服务
- 03无代码 AI 智能体构建器,支持自定义智能体、工具调用与网页浏览
- 04定时任务,可按 cron 计划运行提示词或智能体工作流
- 05Docker 版本支持多用户及按用户设置权限
- 06提供开发者 API 和可嵌入网站的聊天组件
适用场景
- 基于企业内部文档搭建私有问答助手
- 在本机运行本地优先的 AI 对话,不必将数据发送到云服务
- 为团队提供共享的 AI 工作区并分别设置访问权限
- 在网站嵌入聊天助手,或通过 API 将 AI 对话集成到现有产品中
快速上手
- 1
克隆仓库
- 2
在仓库根目录填写所需的 .env 文件
yarn setup - 3
启动服务端(在仓库根目录)
yarn dev:server - 4
启动前端(在仓库根目录)
yarn dev:frontend
使用前须知
- 开发环境需要填写多个 .env 文件并使用 Yarn。
- 多用户支持和可嵌入聊天组件仅在 Docker 版本中提供。
- 默认会收集匿名使用信息(遥测)。
标签
常见问题
- anything-llm 是什么?
- 一体化 AI 应用,可与文档对话、运行 AI 智能体,支持本地优先部署、多用户和多种大模型。 AnythingLLM 是一款可自托管的一体化 AI 应用,用于基于自有文档搭建私有的类 ChatGPT 助手。你可以接入本地模型(内置基于 llama.cpp 的引擎,也支持 Ollama、LM Studio 等),也可以接入 OpenAI、Anthropic、Gemini 等云端大模型,然后上传文件创建工作区,让模型基于这些内容回答问题。
- anything-llm 可以免费使用吗?用的什么许可证?
- anything-llm 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- anything-llm 还在维护吗?
- 活跃维护中。anything-llm 最近一次提交是在 2026年10月17日。
- anything-llm 适合用来做什么?
- 基于企业内部文档搭建私有问答助手 在本机运行本地优先的 AI 对话,不必将数据发送到云服务 为团队提供共享的 AI 工作区并分别设置访问权限 在网站嵌入聊天助手,或通过 API 将 AI 对话集成到现有产品中
- anything-llm 怎么安装和运行?
- 克隆仓库 在仓库根目录填写所需的 .env 文件: yarn setup 启动服务端(在仓库根目录): yarn dev:server 启动前端(在仓库根目录): yarn dev:frontend
- 在哪里获取 anything-llm?
- 源代码和安装说明在 GitHub 上:https://github.com/Mintplex-Labs/anything-llm
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
一个可自托管的 AI 学习工作台,提供个性化辅导、问答、测验、研究与可视化等功能。
面向 AI 应用的开源数据基础设施,用于存储文档与向量并支持语义、混合及全文检索。
围绕 AI 智能体的外围框架(harness)设计,整理了相关的工具、模式、评测、记忆、MCP、权限与编排资源的精选列表。
一个包含 30 个可运行 Jupyter 笔记本的教程仓库,系统讲解 LLM 智能体的记忆技术。
开源 Python 网页爬虫,可将任意网站转为干净、适合 LLM 使用的 Markdown,并支持结构化数据提取。