Repolode
投稿する
theopenco

theopenco/llmgateway

複数のプロバイダーにLLMリクエストを振り分ける、OpenAI互換インターフェースとキー管理・利用状況分析を備えたオープンソースAPIゲートウェイ。

代替できる製品:OpenRouter

GitHub で見る公式サイト
スター
1,726
フォーク
201
未解決の Issue
87
最終コミット
昨日

これは何？

LLM Gatewayは、アプリケーションとOpenAI、Anthropic、Google Vertex AIなどの大規模言語モデルプロバイダーの間に位置します。アプリケーションは単一のエンドポイントにリクエストを送り、ゲートウェイが選択したプロバイダーに転送するため、サービスごとに個別の連携を実装する必要はありません。

各プロバイダーのAPIキーを一元管理できます。ゲートウェイはリクエスト数、トークン使用量、応答時間、コストを追跡し、費用対効果の評価に役立つモデル間のパフォーマンス比較機能も備えています。

llmgateway.ioのホステッドサービスとして利用することも、PostgreSQLとRedisをまとめた統合コンテナを使ってDockerでセルフホストすることもできます。コードベースは、Honoバックエンド、Next.jsダッシュボード、Drizzle ORMスキーマで構成されるTypeScriptモノレポです。コア部分はAGPLv3で、ee/ディレクトリ内の一部のエンタープライズ機能には別途商用ライセンスが適用されます。

主な機能

  • 01複数のプロバイダーへのルーティングに対応したOpenAI互換APIを提供
  • 02各プロバイダーのAPIキーを一元管理
  • 03リクエストごとのトークン使用量、コスト、応答時間を追跡
  • 04モデル間のパフォーマンスとコストを比較
  • 05Dockerでセルフホストするか、ホステッドサービスとして利用可能

ユースケース

  • 既存のOpenAIベースのアプリケーションを、コード変更を最小限に抑えて他のプロバイダーへ切り替える
  • チームや複数のプロジェクトにおけるLLMの利用料金とトークン使用量を追跡する
  • デフォルトモデルを選ぶ前に、モデルのコストとレイテンシを比較する
  • リクエストデータを自分の管理下に置ける、セルフホスト型のLLMゲートウェイを運用する

クイックスタート

  1. 1

    依存関係をインストールし、開発環境をセットアップします（Dockerが必要です）

    pnpm i && pnpm run setup
  2. 2

    開発サーバーを起動します

    pnpm dev

使う前に知っておきたいこと

  • コアコードはAGPLv3（ネットワーク経由で提供するサービスに義務が生じるコピーレフトライセンス）の下でライセンスされています。
  • ee/ディレクトリ内の商用機能を利用するには、有料のEnterpriseライセンスが必要です。
  • 開発環境のセットアップでは、データベースや関連コンポーネント用のDockerサービスが必要です。

収録されている特集

Claude Code のツール・スキル・プラグインOpenTelemetry・オブザーバビリティ基盤マイクロサービスのフレームワークとサービス基盤

トピック

#llm#ai-gateway#openai-compatible#api-gateway#observability#rate-limiting#typescript#ai#analytics#anthropic

よくある質問

llmgateway とは？
複数のプロバイダーにLLMリクエストを振り分ける、OpenAI互換インターフェースとキー管理・利用状況分析を備えたオープンソースAPIゲートウェイ。 LLM Gatewayは、アプリケーションとOpenAI、Anthropic、Google Vertex AIなどの大規模言語モデルプロバイダーの間に位置します。アプリケーションは単一のエンドポイントにリクエストを送り、ゲートウェイが選択したプロバイダーに転送するため、サービスごとに個別の連携を実装する必要はありません。
llmgateway は無料で使えますか？ライセンスは？
llmgateway は Other ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
llmgateway は今もメンテナンスされていますか？
活発にメンテナンス中。llmgateway の最終コミットは 2026年11月6日 です。
llmgateway は何に使えますか？
既存のOpenAIベースのアプリケーションを、コード変更を最小限に抑えて他のプロバイダーへ切り替える チームや複数のプロジェクトにおけるLLMの利用料金とトークン使用量を追跡する デフォルトモデルを選ぶ前に、モデルのコストとレイテンシを比較する リクエストデータを自分の管理下に置ける、セルフホスト型のLLMゲートウェイを運用する
llmgateway のインストール方法は？
依存関係をインストールし、開発環境をセットアップします（Dockerが必要です）: pnpm i && pnpm run setup 開発サーバーを起動します: pnpm dev
llmgateway はどこで入手できますか？
ソースコードとインストール手順は GitHub にあります：https://github.com/theopenco/llmgateway

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト