Repolode
tashfeenahmed

tashfeenahmed/freellmapi

無料LLMプロバイダーのプランを1つの/v1エンドポイントに集約し、ルーティングとフェイルオーバーに対応する、セルフホスト型のOpenAI互換ゲートウェイです。

代替できる製品:OpenRouterLiteLLM

スター
38,952
フォーク
5,249
未解決の Issue
40
最終コミット
7 時間前

これは何?

FreeLLMAPIは、複数のLLMプロバイダーの無料プランを集約し、単一のOpenAI互換/v1エンドポイントとして公開するローカルゲートウェイです。ダッシュボードでプロバイダーのキーを登録すれば、OpenAI SDKや互換クライアントから1つのベースURLにリクエストを送信できます。ルーターがリクエストごとに利用可能なモデルを選び、レート制限エラーやサーバーエラーが返された場合は、次のプロバイダーに切り替えます。

プロバイダーのキーはSQLiteに暗号化して保存され、リクエストごとにメモリ上で復号されます。また、リクエスト数、トークン数、キーごとのレート制限を追跡し、無料プランの上限を超えないようにルーティングします。チャット、埋め込み、画像、動画、音声の各エンドポイントに加え、コーディングエージェントやCLI向けにAnthropic Messages、Gemini、Ollama形式のエンドポイントも提供します。ルーターはNode 20+で動作し、Dockerイメージとデスクトップアプリとして提供されます。Premiumでは、最新のモデルカタログを配信するライブフィードが追加されます。

主な機能

  • 01複数の無料プロバイダーのキーを、単一のOpenAI互換/v1エンドポイントに集約
  • 02429または5xxのレスポンス時に次のモデルへ自動で切り替え
  • 03無料プランの上限を超えないよう、キーごとのRPM、RPD、TPM、TPDを追跡
  • 04プロバイダーのキーをAES-256-GCMで暗号化して保存
  • 05コーディングエージェント向けのAnthropic、Gemini、Ollama互換エンドポイント
  • 06キー管理、プレイグラウンド、利用状況分析を備えた管理ダッシュボード

ユースケース

  • API利用料をかけずに、複数のLLMを使ったアプリのプロトタイプを作る
  • Claude Code、Codex CLI、Aiderから無料モデルのプールに接続する
  • クラウドの無料プランとセルフホスト型モデルを組み合わせた、個人用のローカルゲートウェイを運用する
  • 同じOpenAI形式のリクエストに対する各プロバイダーの応答を比較・テストする

クイックスタート

  1. 1

    リリースページからデスクトップアプリをダウンロードします(macOS または Windows)

  2. 2

    インストールガイドの Docker Compose 手順に従って、Docker でセルフホストします

使う前に知っておきたいこと

  • 無料インストールでは、新しいモデルがライブのプレミアムフィードに追加されてから30日後に利用可能になります。プレミアムは年額19ドルの有料プランです。
  • 利用する各無料プロバイダーのAPIキーは、ご自身で取得して追加する必要があります。

トピック

よくある質問

freellmapi とは?
無料LLMプロバイダーのプランを1つの/v1エンドポイントに集約し、ルーティングとフェイルオーバーに対応する、セルフホスト型のOpenAI互換ゲートウェイです。 FreeLLMAPIは、複数のLLMプロバイダーの無料プランを集約し、単一のOpenAI互換/v1エンドポイントとして公開するローカルゲートウェイです。ダッシュボードでプロバイダーのキーを登録すれば、OpenAI SDKや互換クライアントから1つのベースURLにリクエストを送信できます。ルーターがリクエストごとに利用可能なモデルを選び、レート制限エラーやサーバーエラーが返された場合は、次のプロバイダーに切り替えます。
freellmapi は無料で使えますか?ライセンスは?
freellmapi は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
freellmapi は今もメンテナンスされていますか?
活発にメンテナンス中。freellmapi の最終コミットは 2026年10月21日 です。
freellmapi は何に使えますか?
API利用料をかけずに、複数のLLMを使ったアプリのプロトタイプを作る Claude Code、Codex CLI、Aiderから無料モデルのプールに接続する クラウドの無料プランとセルフホスト型モデルを組み合わせた、個人用のローカルゲートウェイを運用する 同じOpenAI形式のリクエストに対する各プロバイダーの応答を比較・テストする
freellmapi のインストール方法は?
リリースページからデスクトップアプリをダウンロードします(macOS または Windows) インストールガイドの Docker Compose 手順に従って、Docker でセルフホストします
freellmapi はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/tashfeenahmed/freellmapi

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト