OpenAI、Claude、Gemini互換APIを提供するセルフホスト型AIゲートウェイ。複数の上流モデルプロバイダーをルーティングし、APIキー、クォータ、コストを管理できます。
tashfeenahmed/freellmapi
無料LLMプロバイダーのプランを1つの/v1エンドポイントに集約し、ルーティングとフェイルオーバーに対応する、セルフホスト型のOpenAI互換ゲートウェイです。
代替できる製品:OpenRouter
LiteLLM
- スター
- 38,952
- フォーク
- 5,249
- 未解決の Issue
- 40
- 最終コミット
- 7 時間前
これは何?
FreeLLMAPIは、複数のLLMプロバイダーの無料プランを集約し、単一のOpenAI互換/v1エンドポイントとして公開するローカルゲートウェイです。ダッシュボードでプロバイダーのキーを登録すれば、OpenAI SDKや互換クライアントから1つのベースURLにリクエストを送信できます。ルーターがリクエストごとに利用可能なモデルを選び、レート制限エラーやサーバーエラーが返された場合は、次のプロバイダーに切り替えます。
プロバイダーのキーはSQLiteに暗号化して保存され、リクエストごとにメモリ上で復号されます。また、リクエスト数、トークン数、キーごとのレート制限を追跡し、無料プランの上限を超えないようにルーティングします。チャット、埋め込み、画像、動画、音声の各エンドポイントに加え、コーディングエージェントやCLI向けにAnthropic Messages、Gemini、Ollama形式のエンドポイントも提供します。ルーターはNode 20+で動作し、Dockerイメージとデスクトップアプリとして提供されます。Premiumでは、最新のモデルカタログを配信するライブフィードが追加されます。
主な機能
- 01複数の無料プロバイダーのキーを、単一のOpenAI互換/v1エンドポイントに集約
- 02429または5xxのレスポンス時に次のモデルへ自動で切り替え
- 03無料プランの上限を超えないよう、キーごとのRPM、RPD、TPM、TPDを追跡
- 04プロバイダーのキーをAES-256-GCMで暗号化して保存
- 05コーディングエージェント向けのAnthropic、Gemini、Ollama互換エンドポイント
- 06キー管理、プレイグラウンド、利用状況分析を備えた管理ダッシュボード
ユースケース
- API利用料をかけずに、複数のLLMを使ったアプリのプロトタイプを作る
- Claude Code、Codex CLI、Aiderから無料モデルのプールに接続する
- クラウドの無料プランとセルフホスト型モデルを組み合わせた、個人用のローカルゲートウェイを運用する
- 同じOpenAI形式のリクエストに対する各プロバイダーの応答を比較・テストする
クイックスタート
- 1
リリースページからデスクトップアプリをダウンロードします(macOS または Windows)
- 2
インストールガイドの Docker Compose 手順に従って、Docker でセルフホストします
使う前に知っておきたいこと
- 無料インストールでは、新しいモデルがライブのプレミアムフィードに追加されてから30日後に利用可能になります。プレミアムは年額19ドルの有料プランです。
- 利用する各無料プロバイダーのAPIキーは、ご自身で取得して追加する必要があります。
トピック
よくある質問
- freellmapi とは?
- 無料LLMプロバイダーのプランを1つの/v1エンドポイントに集約し、ルーティングとフェイルオーバーに対応する、セルフホスト型のOpenAI互換ゲートウェイです。 FreeLLMAPIは、複数のLLMプロバイダーの無料プランを集約し、単一のOpenAI互換/v1エンドポイントとして公開するローカルゲートウェイです。ダッシュボードでプロバイダーのキーを登録すれば、OpenAI SDKや互換クライアントから1つのベースURLにリクエストを送信できます。ルーターがリクエストごとに利用可能なモデルを選び、レート制限エラーやサーバーエラーが返された場合は、次のプロバイダーに切り替えます。
- freellmapi は無料で使えますか?ライセンスは?
- freellmapi は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- freellmapi は今もメンテナンスされていますか?
- 活発にメンテナンス中。freellmapi の最終コミットは 2026年10月21日 です。
- freellmapi は何に使えますか?
- API利用料をかけずに、複数のLLMを使ったアプリのプロトタイプを作る Claude Code、Codex CLI、Aiderから無料モデルのプールに接続する クラウドの無料プランとセルフホスト型モデルを組み合わせた、個人用のローカルゲートウェイを運用する 同じOpenAI形式のリクエストに対する各プロバイダーの応答を比較・テストする
- freellmapi のインストール方法は?
- リリースページからデスクトップアプリをダウンロードします(macOS または Windows) インストールガイドの Docker Compose 手順に従って、Docker でセルフホストします
- freellmapi はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/tashfeenahmed/freellmapi
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
OpenAI互換APIに接続できるSvelteKit製LLMチャットUIで、HuggingChatを支えるコードベース。
OpenAI、Claude、Gemini、DeepSeek、自前でホストするモデルに接続できる、Web・デスクトップ・モバイル対応のオープンソースAIチャットクライアント。
エージェントを分離されたクラウドサンドボックスで実行し、承認済みの変更リクエストを通じて成果を届ける、セルフホスト可能なオープンソースAI OS。
WebGPUを使ってブラウザー内でLLM推論を完結させるTypeScriptエンジン。OpenAI互換APIを提供します。