Repolode
Mintplex-Labs

Mintplex-Labs/anything-llm

一体化 AI 应用,可与文档对话、运行 AI 智能体,支持本地优先部署、多用户和多种大模型。

可替代:ChatGPTNotion AI

Star
67,308
Fork
7,535
未关闭 Issue
354
最近提交
3天前

这是什么?

AnythingLLM 是一款可自托管的一体化 AI 应用,用于基于自有文档搭建私有的类 ChatGPT 助手。你可以接入本地模型(内置基于 llama.cpp 的引擎,也支持 Ollama、LM Studio 等),也可以接入 OpenAI、Anthropic、Gemini 等云端大模型,然后上传文件创建工作区,让模型基于这些内容回答问题。

除文档问答外,它还提供带工具调用的 AI 智能体、无代码智能体构建器、定时任务、MCP 兼容以及跨服务商的模型路由。Docker 版本支持多用户并可按用户设置权限;同时提供开发者 API 和可嵌入网站的聊天组件,便于定制集成。

项目支持多种向量数据库(默认 LanceDB,另支持 PGVector、Pinecone、Qdrant、Weaviate 等)以及多种嵌入模型和语音方案。仓库采用 monorepo 结构,包含 React 前端、Express 服务端和文档处理服务,另有 Mac、Windows、Linux 桌面版可下载。

核心功能

  • 01与 PDF、TXT、DOCX 等上传文档对话,并显示引用来源
  • 02内置本地大模型引擎,支持 CPU 与 GPU,同时可接入众多云端和本地模型服务
  • 03无代码 AI 智能体构建器,支持自定义智能体、工具调用与网页浏览
  • 04定时任务,可按 cron 计划运行提示词或智能体工作流
  • 05Docker 版本支持多用户及按用户设置权限
  • 06提供开发者 API 和可嵌入网站的聊天组件

适用场景

  • 基于企业内部文档搭建私有问答助手
  • 在本机运行本地优先的 AI 对话,不必将数据发送到云服务
  • 为团队提供共享的 AI 工作区并分别设置访问权限
  • 在网站嵌入聊天助手,或通过 API 将 AI 对话集成到现有产品中

快速上手

  1. 1

    克隆仓库

  2. 2

    在仓库根目录填写所需的 .env 文件

    yarn setup
  3. 3

    启动服务端(在仓库根目录)

    yarn dev:server
  4. 4

    启动前端(在仓库根目录)

    yarn dev:frontend

使用前须知

  • 开发环境需要填写多个 .env 文件并使用 Yarn。
  • 多用户支持和可嵌入聊天组件仅在 Docker 版本中提供。
  • 默认会收集匿名使用信息(遥测)。

标签

常见问题

anything-llm 是什么?
一体化 AI 应用,可与文档对话、运行 AI 智能体,支持本地优先部署、多用户和多种大模型。 AnythingLLM 是一款可自托管的一体化 AI 应用,用于基于自有文档搭建私有的类 ChatGPT 助手。你可以接入本地模型(内置基于 llama.cpp 的引擎,也支持 Ollama、LM Studio 等),也可以接入 OpenAI、Anthropic、Gemini 等云端大模型,然后上传文件创建工作区,让模型基于这些内容回答问题。
anything-llm 可以免费使用吗?用的什么许可证?
anything-llm 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
anything-llm 还在维护吗?
活跃维护中。anything-llm 最近一次提交是在 2026年10月17日。
anything-llm 适合用来做什么?
基于企业内部文档搭建私有问答助手 在本机运行本地优先的 AI 对话,不必将数据发送到云服务 为团队提供共享的 AI 工作区并分别设置访问权限 在网站嵌入聊天助手,或通过 API 将 AI 对话集成到现有产品中
anything-llm 怎么安装和运行?
克隆仓库 在仓库根目录填写所需的 .env 文件: yarn setup 启动服务端(在仓库根目录): yarn dev:server 启动前端(在仓库根目录): yarn dev:frontend
在哪里获取 anything-llm?
源代码和安装说明在 GitHub 上:https://github.com/Mintplex-Labs/anything-llm

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目