Repolode
NadirRouter

NadirRouter/NadirClaw

OpenAI互換プロキシとして動作する、セルフホスト型のソース公開LLMルーター。簡単なプロンプトは安価なモデルやローカルモデルへ、複雑なものは高性能モデルへ振り分けます。

スター
661
フォーク
80
未解決の Issue
1
最終コミット
4 時間前

これは何?

NadirClawは、AIコーディングツールとモデルプロバイダーの間に置くローカルプロキシです。受信した各プロンプトを約10msで分類し、回答できそうな最も安価なモデル階層に送り、拒否、回答の途切れ、不正なJSONがないかヒューリスティックな検証器で確認します。検証に失敗した場合は、より高性能なモデルにリクエストをエスカレーションします。すべてのリクエストを高価格帯モデルで処理する場合と比べた、リクエストごとのコスト削減額も報告します。

OpenAI互換のエンドポイント(/v1/chat/completions)とAnthropic互換のエンドポイント(/v1/messages)を提供するため、Claude Code、Codex、Cursor、Aider、Continue、OpenClawなどのクライアントは、ベースURLを変更するだけで接続できます。GeminiはGoogle GenAI SDK経由でネイティブに呼び出し、その他のプロバイダーにはLiteLLM経由で接続します。ローカルモデル向けには、OllamaやvLLM、LM StudioなどのカスタムOpenAI互換サーバーを利用できます。

ルーティングに加え、429や5xxエラー時のフォールバックチェーン、セッション単位のモデル固定、コンテキストウィンドウによるフィルタリング、コンテキストの圧縮、インメモリのプロンプトキャッシュ、予算アラート、ターミナルとWebのダッシュボード、CSV/JSONL形式でのログエクスポート、Prometheusメトリクスを備えています。ライセンスはPolyForm Noncommercialのため、オープンソースではなくソース公開ソフトウェアです。

主な機能

  • 01各プロンプトを約10msで分類し、シンプル・中程度・複雑のモデル階層に振り分けます。
  • 02安価なモデルの回答をヒューリスティックなチェックで検証し、失敗した場合はより高性能なモデルにエスカレーションします。
  • 03既存のコーディングツール向けに、OpenAI互換とAnthropic互換のエンドポイントを提供します。
  • 04Geminiをネイティブに呼び出し、Ollamaを含むその他のプロバイダーにはLiteLLM経由で接続します。
  • 05プロバイダーがレート制限またはサーバーエラーを返した場合、設定可能なモデルチェーンに沿ってフォールバックします。
  • 06リクエストごとのコスト削減額を報告し、ターミナルとWebのダッシュボード、予算アラートも提供します。

ユースケース

  • Claude Code、Cursor、Codexを使い、難易度の異なるプロンプトを処理する開発者の月々のAPI利用料を削減する。
  • 簡単なリクエストはローカルのOllamaモデルで処理し、難しいタスクはクラウドモデルに送る。
  • モデルの利用状況とコストを追跡できる、セルフホスト型のゲートウェイを小規模チームに提供する。
  • クラウドモデルと併用しながら、OpenAI互換ツールをカスタムのvLLMまたはLM Studioエンドポイントに接続する。

トピック

よくある質問

NadirClaw とは?
OpenAI互換プロキシとして動作する、セルフホスト型のソース公開LLMルーター。簡単なプロンプトは安価なモデルやローカルモデルへ、複雑なものは高性能モデルへ振り分けます。 NadirClawは、AIコーディングツールとモデルプロバイダーの間に置くローカルプロキシです。受信した各プロンプトを約10msで分類し、回答できそうな最も安価なモデル階層に送り、拒否、回答の途切れ、不正なJSONがないかヒューリスティックな検証器で確認します。検証に失敗した場合は、より高性能なモデルにリクエストをエスカレーションします。すべてのリクエストを高価格帯モデルで処理する場合と比べた、リクエストごとのコスト削減額も報告します。
NadirClaw は無料で使えますか?ライセンスは?
NadirClaw は Other ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
NadirClaw は今もメンテナンスされていますか?
活発にメンテナンス中。NadirClaw の最終コミットは 2026年10月22日 です。
NadirClaw は何に使えますか?
Claude Code、Cursor、Codexを使い、難易度の異なるプロンプトを処理する開発者の月々のAPI利用料を削減する。 簡単なリクエストはローカルのOllamaモデルで処理し、難しいタスクはクラウドモデルに送る。 モデルの利用状況とコストを追跡できる、セルフホスト型のゲートウェイを小規模チームに提供する。 クラウドモデルと併用しながら、OpenAI互換ツールをカスタムのvLLMまたはLM Studioエンドポイントに接続する。
NadirClaw はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/NadirRouter/NadirClaw

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト