「llm-routing」に関するオープンソースプロジェクト

数百のモデルプロバイダーを単一のOpenAI互換エンドポイントで利用できる、セルフホスト対応のMITライセンスAIゲートウェイ。

40以上のプロバイダーを1つのエンドポイントで利用できる、仮想キー・予算管理・利用状況追跡対応のセルフホスト型OpenAI互換LLMゲートウェイ。