Repolode
Abraxas-365

Abraxas-365/langchain-rust

Rust 版 LangChain,用可组合的链、智能体、工具和向量存储构建大模型应用。

Star
1,362
Fork
179
未关闭 Issue
10
最近提交
4天前

这是什么?

langchain-rust 是 LangChain 框架的 Rust 实现,用于基于大语言模型构建应用。它提供 LLM 链、对话链、顺序链、问答链和摘要链等基础组件,便于把模型调用、提示词模板和检索步骤组合成完整流程。

在模型接入方面,它支持 OpenAI、Azure OpenAI、Ollama、Anthropic Claude、Mistral 和 AWS Bedrock,并可通过 FastEmbed 使用本地嵌入模型。检索部分集成了 Postgres、Qdrant、Pinecone、Weaviate、Milvus、Chroma、Redis、SQLite 等多种向量数据库。文档加载器覆盖 PDF、HTML、CSV、Git 提交记录等来源,另有输出解析器,以及基于 SQLite、Postgres、Redis 或 MongoDB 的对话记忆。

智能体方面,项目提供基于工具调用的智能体、适用于不支持原生工具调用模型的 ReAct 智能体,以及流式输出智能体事件的能力。内置计算器、网页搜索、Wolfram 等工具,也支持把异步函数封装为自定义工具。通过 cargo 即可安装,并可按需启用各向量数据库的可选特性。

核心功能

  • 01提供 LLM 调用、问答、摘要、SQL 查询和路由等链式组件
  • 02支持 OpenAI、Azure OpenAI、Ollama、Anthropic Claude 等多家模型服务
  • 03集成 Postgres、Qdrant、Pinecone、Chroma 等多种向量存储
  • 04智能体支持工具调用、ReAct 回退模式和流式事件输出
  • 05提供 PDF、HTML、CSV、Git 提交记录等文档加载器
  • 06对话记忆可持久化到 SQLite、Postgres、Redis 或 MongoDB

适用场景

  • 在 Rust 后端中构建基于检索增强的问答服务
  • 不离开 Rust 技术栈,为现有应用加入大模型功能
  • 开发调用搜索或自定义函数的工具型智能体
  • 原型验证在 OpenAI 与本地 Ollama 模型之间切换的处理链

快速上手

  1. 1

    在 Rust 项目中添加 serde_json

    cargo add serde_json
  2. 2

    在 Rust 项目中添加 langchain-rust

    cargo add langchain-rust

使用前须知

  • sqlite-vss 和 sqlite-vec 功能需要另外下载额外的原生库。

收录于专题

标签

常见问题

langchain-rust 是什么?
Rust 版 LangChain,用可组合的链、智能体、工具和向量存储构建大模型应用。 langchain-rust 是 LangChain 框架的 Rust 实现,用于基于大语言模型构建应用。它提供 LLM 链、对话链、顺序链、问答链和摘要链等基础组件,便于把模型调用、提示词模板和检索步骤组合成完整流程。
langchain-rust 可以免费使用吗?用的什么许可证?
langchain-rust 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
langchain-rust 还在维护吗?
活跃维护中。langchain-rust 最近一次提交是在 2026年11月3日。
langchain-rust 适合用来做什么?
在 Rust 后端中构建基于检索增强的问答服务 不离开 Rust 技术栈,为现有应用加入大模型功能 开发调用搜索或自定义函数的工具型智能体 原型验证在 OpenAI 与本地 Ollama 模型之间切换的处理链
langchain-rust 怎么安装和运行?
在 Rust 项目中添加 serde_json: cargo add serde_json 在 Rust 项目中添加 langchain-rust: cargo add langchain-rust
在哪里获取 langchain-rust?
源代码和安装说明在 GitHub 上:https://github.com/Abraxas-365/langchain-rust

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目