自托管推理服务器,通过兼容 OpenAI 的 API 在一个集群中提供嵌入、重排序、OCR、抽取和大模型等多种模型。
OpenRouterTeam/ai-sdk-provider
将 Vercel AI SDK 接入 OpenRouter 的 provider 包,通过统一接口调用数百个大模型。
- Star
- 695
- Fork
- 176
- 未关闭 Issue
- 46
- 最近提交
- 3天前
这是什么?
这是 Vercel AI SDK 的 OpenRouter provider 包。开发者只需把模型参数换成 OpenRouter 上的模型 ID,就能继续使用 generateText、streamText 等 AI SDK 函数调用数百个大语言模型。
除对话和补全外,该包还支持 embedding 与重排序(rerank)模型,并提供用于 AI SDK 评估的实验性决策模型。它可以向 OpenRouter 透传额外请求字段,为多模态输入设置图片细节和视频处理方式,支持 Anthropic 的提示词缓存和 beta 请求头,并提供结构化 JSON 输出的修复功能以及用量与费用统计。当前 v7 版本要求 Node.js 22 或更高版本且仅支持 ESM,早期版本分别对应 AI SDK v6 和 v5。
核心功能
- 01只需更换模型 ID,即可在数百个 OpenRouter 模型之间切换。
- 02为 AI SDK 提供 embedding 与重排序模型接口。
- 03可通过 providerOptions 或模型设置向 OpenRouter 透传额外请求字段。
- 04支持多模态输入的图片细节和视频处理选项。
- 05支持 Anthropic 提示词缓存和 beta 请求头。
- 06在 provider metadata 中返回 token 用量和请求费用。
适用场景
- 在 Next.js 或 Node.js 应用中通过单一集成让用户选择多种大模型。
- 借助 AI SDK 的 embedding 模型实现语义搜索或 RAG 功能。
- 开启响应修复功能,获取更可靠的结构化 JSON 输出。
- 在 AI 产品中统计每次请求的费用和 token 用量。
快速上手
- 1
使用 npm 安装该包
npm install @openrouter/ai-sdk-provider - 2
导入默认提供者,并使用模型 ID 调用 generateText
使用前须知
- 面向 AI SDK v7,需要 Node.js 22 或更高版本。
- 该包仅支持 ESM。
- 评估模型所用的 Decisions API 仍处于 alpha 阶段,可能发生变化。
标签
常见问题
- ai-sdk-provider 是什么?
- 将 Vercel AI SDK 接入 OpenRouter 的 provider 包,通过统一接口调用数百个大模型。 这是 Vercel AI SDK 的 OpenRouter provider 包。开发者只需把模型参数换成 OpenRouter 上的模型 ID,就能继续使用 generateText、streamText 等 AI SDK 函数调用数百个大语言模型。
- ai-sdk-provider 可以免费使用吗?用的什么许可证?
- ai-sdk-provider 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- ai-sdk-provider 还在维护吗?
- 活跃维护中。ai-sdk-provider 最近一次提交是在 2026年11月4日。
- ai-sdk-provider 适合用来做什么?
- 在 Next.js 或 Node.js 应用中通过单一集成让用户选择多种大模型。 借助 AI SDK 的 embedding 模型实现语义搜索或 RAG 功能。 开启响应修复功能,获取更可靠的结构化 JSON 输出。 在 AI 产品中统计每次请求的费用和 token 用量。
- ai-sdk-provider 怎么安装和运行?
- 使用 npm 安装该包: npm install @openrouter/ai-sdk-provider 导入默认提供者,并使用模型 ID 调用 generateText
- 在哪里获取 ai-sdk-provider?
- 源代码和安装说明在 GitHub 上:https://github.com/OpenRouterTeam/ai-sdk-provider
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
3477+19 本周333PythonApache-2.0维护活跃更新于 21小时前
基于 Rust 与 LibTorch 的推理服务引擎,通过 REST API 提供向量嵌入、重排序与分类服务。
2984+7 本周220RustMIT维护活跃更新于 3天前
QD-Rec 的研究代码,基于质量-多样性方法,演化item-假设配对档案以生成多样化推荐。
397PythonApache-2.0更新于 19天前
开源的视觉检索增强生成(RAG)流程,将网页和 PDF 渲染为截图进行检索,保留表格与图表信息。
1.1万+64 本周981PythonApache-2.0维护活跃更新于 前天
基于 Rust 的嵌入(Embedding)流水线,可处理文本、PDF、图片、音频和网页,本地或云端生成向量并写入向量数据库。
1323+1 本周140RustApache-2.0更新于 12天前
为 LLM 命令行工具和 Python 库接入 Google Gemini 系列模型的插件。
46562PythonApache-2.0更新于 25天前