面向 Claude Code、Cursor 等 AI 编程工具的自托管 LLM 网关,可跨模型路由请求并压缩工具输出以减少 token 消耗。
NadirRouter/NadirClaw
自托管的 LLM 路由器,将简单请求分发给低成本或本地模型,复杂请求交给高级模型,兼容 OpenAI 接口。
- Star
- 661
- Fork
- 80
- 未关闭 Issue
- 1
- 最近提交
- 5小时前
这是什么?
NadirClaw 是一个本地代理,位于 AI 编程工具与模型服务商之间。每个请求会在约 10ms 内完成分类,先发送到最可能胜任的低成本模型层级,再由启发式验证器检查拒答、截断和 JSON 格式错误等问题。若回答未通过检查,请求会升级到更强的模型。项目会按每个请求计算相对于全部使用高级模型的基线节省的费用。
它提供兼容 OpenAI(/v1/chat/completions)和 Anthropic(/v1/messages)的接口,Claude Code、Codex、Cursor、Aider、Continue、OpenClaw 等客户端只需修改 base URL 即可接入。Gemini 通过 Google GenAI SDK 直接调用,其他服务商经由 LiteLLM 接入;本地模型可使用 Ollama,或 vLLM、LM Studio 等兼容 OpenAI 的自定义服务。
除路由外,项目还包含针对 429 和 5xx 错误的回退链、多轮会话模型固定、上下文窗口过滤、上下文压缩、内存级提示缓存、预算告警、终端与网页仪表盘、CSV/JSONL 日志导出以及 Prometheus 指标。许可证为 PolyForm Noncommercial,属于源码可见但非开源。
核心功能
- 01约 10ms 完成每个提示的分类,并分发到简单、中等或复杂的模型层级。
- 02用启发式规则检查低成本模型的回答,未通过时升级到更强的模型。
- 03提供兼容 OpenAI 与 Anthropic 的接口,现有编程工具只需修改 base URL。
- 04Gemini 直接调用,其他服务商(包括 Ollama)通过 LiteLLM 接入。
- 05服务商返回限流或服务端错误时,按可配置的模型链依次回退。
- 06按请求统计节省的费用,提供终端与网页仪表盘及预算告警。
适用场景
- 开发者在 Claude Code、Cursor 或 Codex 中混合处理难易不一的提示,希望降低 API 月度开销。
- 将简单请求交给本地 Ollama 模型,复杂任务仍发送到云端模型。
- 小团队部署一个自托管网关,统一追踪模型用量与费用。
- 让兼容 OpenAI 的工具同时访问自定义 vLLM 或 LM Studio 服务和云端模型。
快速上手
- 1
从 PyPI 安装软件包
pip install nadirclaw - 2
运行交互式设置向导,选择提供商、API 密钥和模型
nadirclaw setup - 3
在 localhost:8856 启动路由器
nadirclaw serve --verbose
使用前须知
- 采用 PolyForm Noncommercial 1.0.0 许可证,商业使用需要单独获得授权。
- 属于源码可见(source-available)而非开源。
- 免费版使用基于规则的简单验证器和分类器,经过训练的版本仅在托管的 Pro 产品中提供。
标签
常见问题
- NadirClaw 是什么?
- 自托管的 LLM 路由器,将简单请求分发给低成本或本地模型,复杂请求交给高级模型,兼容 OpenAI 接口。 NadirClaw 是一个本地代理,位于 AI 编程工具与模型服务商之间。每个请求会在约 10ms 内完成分类,先发送到最可能胜任的低成本模型层级,再由启发式验证器检查拒答、截断和 JSON 格式错误等问题。若回答未通过检查,请求会升级到更强的模型。项目会按每个请求计算相对于全部使用高级模型的基线节省的费用。
- NadirClaw 可以免费使用吗?用的什么许可证?
- NadirClaw 以 Other 许可证开源。用于商业产品前,请先确认许可证条款。
- NadirClaw 还在维护吗?
- 活跃维护中。NadirClaw 最近一次提交是在 2026年10月22日。
- NadirClaw 适合用来做什么?
- 开发者在 Claude Code、Cursor 或 Codex 中混合处理难易不一的提示,希望降低 API 月度开销。 将简单请求交给本地 Ollama 模型,复杂任务仍发送到云端模型。 小团队部署一个自托管网关,统一追踪模型用量与费用。 让兼容 OpenAI 的工具同时访问自定义 vLLM 或 LM Studio 服务和云端模型。
- NadirClaw 怎么安装和运行?
- 从 PyPI 安装软件包: pip install nadirclaw 运行交互式设置向导,选择提供商、API 密钥和模型: nadirclaw setup 在 localhost:8856 启动路由器: nadirclaw serve --verbose
- 在哪里获取 NadirClaw?
- 源代码和安装说明在 GitHub 上:https://github.com/NadirRouter/NadirClaw
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
面向自主智能体的 LLM 路由器,在本地为每个请求选择够用且最便宜的模型,支持 USDC 钱包或信用卡 API Key 付费。
本地模型网关,让 Claude Code、Codex、OpenCode 等编程代理共用一个端点,并把请求路由到多个模型提供商。
本地网关与菜单栏应用,让 Claude Code、Codex、Gemini CLI 等编程智能体可以使用任意服务商或订阅的模型。
开源 LLM 网关,通过统一的 OpenAI 兼容接口,把 AI 智能体和应用的请求路由到多家模型服务商。
用 Go 编写的网关,把 OpenCode Zen 与 Zen Go 模型以 OpenAI 和 Anthropic 兼容接口对外提供,并支持密钥与代理池及 WebUI。