ENTERPILOT/GoModel

これは何？

主な機能

• 01多くのLLMプロバイダーで利用できる、OpenAIおよびAnthropic互換の統一エンドポイント
• 02レスポンスの完全一致・セマンティックキャッシュ
• 03予算とレート制限を備えた、リクエストごとのコスト追跡
• 04リトライおよびサーキットブレーカー付きのフェイルオーバー
• 05ラウンドロビンまたはコストベースのロードバランシングに対応するVirtual models
• 06Prometheusメトリクス、OpenTelemetryトレース、リアルタイムログ

ユースケース

• クライアントコードを変更せずに、1つのアプリケーションから複数のLLMプロバイダーへリクエストを振り分ける
• チームやAPIキーごとにAI利用料を追跡し、上限を設定する
• OllamaやvLLMなどのセルフホスト型モデルの前段にキャッシュとフェイルオーバーを導入する
• LLMトラフィックを集約する中央プロキシとしてLiteLLMを置き換える

クイックスタート

1. 1

   DockerでGoModelを起動する

   docker run --rm -p 8080:8080 -v gomodel_data:/app/data enterpilot/gomodel
2. 2

   READMEに記載されている公式インストールスクリプトを実行する（macOS/LinuxまたはWindows）

3. 3

   localhost:8080でダッシュボードを開き、プロバイダーを追加する

4. 4

   /v1/responsesエンドポイントにテストAPIリクエストを送信する

   curl http://localhost:8080/v1/responses -H "Content-Type: application/json" -d '{"model": "gpt-5-chat-latest", "input": "Hello!"}'

使う前に知っておきたいこと

• !プロンプト圧縮、インテリジェントルーティング、OIDCシングルサインオンなどの一部機能は、商用版のGoModel Proでのみ利用できます。
• !ホスト型モデルを利用するには、ご自身のプロバイダーAPIキーが必要です。

収録されている特集

トピック

よくある質問

GoModel とは？

多くのLLMプロバイダーに対応し、OpenAIおよびAnthropic互換APIを提供する、コスト追跡・フェイルオーバー・ガードレール機能付きのセルフホスト型Go AIゲートウェイ。 GoModelはGoで書かれたAIゲートウェイで、アプリケーションとLLMプロバイダーの間に位置します。クライアントはOpenAI互換形式で/v1に、Anthropic互換形式で/v1/messagesにリクエストを送信でき、GoModelがOpenAI、Anthropic、Gemini、Groq、xAI、Ollama、vLLMなどのプロバイダーに振り分けます。そのため、base URLを変更するだけで公式SDKを利用できます。

GoModel は無料で使えますか？ライセンスは？

GoModel は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

GoModel は今もメンテナンスされていますか？

活発にメンテナンス中。GoModel の最終コミットは 2026年11月5日 です。

GoModel は何に使えますか？

クライアントコードを変更せずに、1つのアプリケーションから複数のLLMプロバイダーへリクエストを振り分ける チームやAPIキーごとにAI利用料を追跡し、上限を設定する OllamaやvLLMなどのセルフホスト型モデルの前段にキャッシュとフェイルオーバーを導入する LLMトラフィックを集約する中央プロキシとしてLiteLLMを置き換える

GoModel のインストール方法は？

DockerでGoModelを起動する: docker run --rm -p 8080:8080 -v gomodel_data:/app/data enterpilot/gomodel READMEに記載されている公式インストールスクリプトを実行する（macOS/LinuxまたはWindows） localhost:8080でダッシュボードを開き、プロバイダーを追加する /v1/responsesエンドポイントにテストAPIリクエストを送信する: curl http://localhost:8080/v1/responses -H "Content-Type: application/json" -d '{"model": "gpt-5-chat-latest", "input": "Hello!"}'

GoModel はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/ENTERPILOT/GoModel