Dart/Flutter 版的 LangChain,用于构建基于大模型的应用,支持多种模型服务、RAG 与智能体。
Abraxas-365/langchain-rust
Rust 版 LangChain,用可组合的链、智能体、工具和向量存储构建大模型应用。
- Star
- 1,362
- Fork
- 179
- 未关闭 Issue
- 10
- 最近提交
- 4天前
这是什么?
langchain-rust 是 LangChain 框架的 Rust 实现,用于基于大语言模型构建应用。它提供 LLM 链、对话链、顺序链、问答链和摘要链等基础组件,便于把模型调用、提示词模板和检索步骤组合成完整流程。
在模型接入方面,它支持 OpenAI、Azure OpenAI、Ollama、Anthropic Claude、Mistral 和 AWS Bedrock,并可通过 FastEmbed 使用本地嵌入模型。检索部分集成了 Postgres、Qdrant、Pinecone、Weaviate、Milvus、Chroma、Redis、SQLite 等多种向量数据库。文档加载器覆盖 PDF、HTML、CSV、Git 提交记录等来源,另有输出解析器,以及基于 SQLite、Postgres、Redis 或 MongoDB 的对话记忆。
智能体方面,项目提供基于工具调用的智能体、适用于不支持原生工具调用模型的 ReAct 智能体,以及流式输出智能体事件的能力。内置计算器、网页搜索、Wolfram 等工具,也支持把异步函数封装为自定义工具。通过 cargo 即可安装,并可按需启用各向量数据库的可选特性。
核心功能
- 01提供 LLM 调用、问答、摘要、SQL 查询和路由等链式组件
- 02支持 OpenAI、Azure OpenAI、Ollama、Anthropic Claude 等多家模型服务
- 03集成 Postgres、Qdrant、Pinecone、Chroma 等多种向量存储
- 04智能体支持工具调用、ReAct 回退模式和流式事件输出
- 05提供 PDF、HTML、CSV、Git 提交记录等文档加载器
- 06对话记忆可持久化到 SQLite、Postgres、Redis 或 MongoDB
适用场景
- 在 Rust 后端中构建基于检索增强的问答服务
- 不离开 Rust 技术栈,为现有应用加入大模型功能
- 开发调用搜索或自定义函数的工具型智能体
- 原型验证在 OpenAI 与本地 Ollama 模型之间切换的处理链
快速上手
- 1
在 Rust 项目中添加 serde_json
cargo add serde_json - 2
在 Rust 项目中添加 langchain-rust
cargo add langchain-rust
使用前须知
- sqlite-vss 和 sqlite-vec 功能需要另外下载额外的原生库。
收录于专题
标签
常见问题
- langchain-rust 是什么?
- Rust 版 LangChain,用可组合的链、智能体、工具和向量存储构建大模型应用。 langchain-rust 是 LangChain 框架的 Rust 实现,用于基于大语言模型构建应用。它提供 LLM 链、对话链、顺序链、问答链和摘要链等基础组件,便于把模型调用、提示词模板和检索步骤组合成完整流程。
- langchain-rust 可以免费使用吗?用的什么许可证?
- langchain-rust 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- langchain-rust 还在维护吗?
- 活跃维护中。langchain-rust 最近一次提交是在 2026年11月3日。
- langchain-rust 适合用来做什么?
- 在 Rust 后端中构建基于检索增强的问答服务 不离开 Rust 技术栈,为现有应用加入大模型功能 开发调用搜索或自定义函数的工具型智能体 原型验证在 OpenAI 与本地 Ollama 模型之间切换的处理链
- langchain-rust 怎么安装和运行?
- 在 Rust 项目中添加 serde_json: cargo add serde_json 在 Rust 项目中添加 langchain-rust: cargo add langchain-rust
- 在哪里获取 langchain-rust?
- 源代码和安装说明在 GitHub 上:https://github.com/Abraxas-365/langchain-rust
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
LangChain 的 C# 实现,用于在 .NET 上通过可组合的链、向量检索和文档加载器构建大模型应用。
面向 AI 应用的开源数据基础设施,用于存储文档与向量并支持语义、混合及全文检索。
面向 Java 的开源 LLM 应用开发库,统一对接多家大模型与向量数据库,支持工具调用、智能体和 RAG。
一个命令行工具和 Python 库,用于调用远程及本地部署的大语言模型运行提示词和对话。
基于 FastAPI 的对话式 RAG 后端,将文档写入 Qdrant 向量库,支持语义与混合检索并调用大模型问答。