Repolode
NadirRouter

NadirRouter/NadirClaw

自托管的 LLM 路由器,将简单请求分发给低成本或本地模型,复杂请求交给高级模型,兼容 OpenAI 接口。

Star
661
Fork
80
未关闭 Issue
1
最近提交
5小时前

这是什么?

NadirClaw 是一个本地代理,位于 AI 编程工具与模型服务商之间。每个请求会在约 10ms 内完成分类,先发送到最可能胜任的低成本模型层级,再由启发式验证器检查拒答、截断和 JSON 格式错误等问题。若回答未通过检查,请求会升级到更强的模型。项目会按每个请求计算相对于全部使用高级模型的基线节省的费用。

它提供兼容 OpenAI(/v1/chat/completions)和 Anthropic(/v1/messages)的接口,Claude Code、Codex、Cursor、Aider、Continue、OpenClaw 等客户端只需修改 base URL 即可接入。Gemini 通过 Google GenAI SDK 直接调用,其他服务商经由 LiteLLM 接入;本地模型可使用 Ollama,或 vLLM、LM Studio 等兼容 OpenAI 的自定义服务。

除路由外,项目还包含针对 429 和 5xx 错误的回退链、多轮会话模型固定、上下文窗口过滤、上下文压缩、内存级提示缓存、预算告警、终端与网页仪表盘、CSV/JSONL 日志导出以及 Prometheus 指标。许可证为 PolyForm Noncommercial,属于源码可见但非开源。

核心功能

  • 01约 10ms 完成每个提示的分类,并分发到简单、中等或复杂的模型层级。
  • 02用启发式规则检查低成本模型的回答,未通过时升级到更强的模型。
  • 03提供兼容 OpenAI 与 Anthropic 的接口,现有编程工具只需修改 base URL。
  • 04Gemini 直接调用,其他服务商(包括 Ollama)通过 LiteLLM 接入。
  • 05服务商返回限流或服务端错误时,按可配置的模型链依次回退。
  • 06按请求统计节省的费用,提供终端与网页仪表盘及预算告警。

适用场景

  • 开发者在 Claude Code、Cursor 或 Codex 中混合处理难易不一的提示,希望降低 API 月度开销。
  • 将简单请求交给本地 Ollama 模型,复杂任务仍发送到云端模型。
  • 小团队部署一个自托管网关,统一追踪模型用量与费用。
  • 让兼容 OpenAI 的工具同时访问自定义 vLLM 或 LM Studio 服务和云端模型。

快速上手

  1. 1

    从 PyPI 安装软件包

    pip install nadirclaw
  2. 2

    运行交互式设置向导,选择提供商、API 密钥和模型

    nadirclaw setup
  3. 3

    在 localhost:8856 启动路由器

    nadirclaw serve --verbose

使用前须知

  • 采用 PolyForm Noncommercial 1.0.0 许可证,商业使用需要单独获得授权。
  • 属于源码可见(source-available)而非开源。
  • 免费版使用基于规则的简单验证器和分类器,经过训练的版本仅在托管的 Pro 产品中提供。

标签

常见问题

NadirClaw 是什么?
自托管的 LLM 路由器,将简单请求分发给低成本或本地模型,复杂请求交给高级模型,兼容 OpenAI 接口。 NadirClaw 是一个本地代理,位于 AI 编程工具与模型服务商之间。每个请求会在约 10ms 内完成分类,先发送到最可能胜任的低成本模型层级,再由启发式验证器检查拒答、截断和 JSON 格式错误等问题。若回答未通过检查,请求会升级到更强的模型。项目会按每个请求计算相对于全部使用高级模型的基线节省的费用。
NadirClaw 可以免费使用吗?用的什么许可证?
NadirClaw 以 Other 许可证开源。用于商业产品前,请先确认许可证条款。
NadirClaw 还在维护吗?
活跃维护中。NadirClaw 最近一次提交是在 2026年10月22日。
NadirClaw 适合用来做什么?
开发者在 Claude Code、Cursor 或 Codex 中混合处理难易不一的提示,希望降低 API 月度开销。 将简单请求交给本地 Ollama 模型,复杂任务仍发送到云端模型。 小团队部署一个自托管网关,统一追踪模型用量与费用。 让兼容 OpenAI 的工具同时访问自定义 vLLM 或 LM Studio 服务和云端模型。
NadirClaw 怎么安装和运行?
从 PyPI 安装软件包: pip install nadirclaw 运行交互式设置向导,选择提供商、API 密钥和模型: nadirclaw setup 在 localhost:8856 启动路由器: nadirclaw serve --verbose
在哪里获取 NadirClaw?
源代码和安装说明在 GitHub 上:https://github.com/NadirRouter/NadirClaw

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目