Rust製のエンジン非依存LLMゲートウェイ。OpenAIおよびAnthropic互換のトラフィックを、自前の推論エンジンやクラウドモデルプロバイダーへルーティングします。
633195RustApache-2.0更新 9 時間前
#inference-gateway
「inference-gateway」に関するオープンソースプロジェクト
inference-gateway に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
#inference-gateway
inference-gateway に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
Rust製のエンジン非依存LLMゲートウェイ。OpenAIおよびAnthropic互換のトラフィックを、自前の推論エンジンやクラウドモデルプロバイダーへルーティングします。