自社クラウドの単一クラスターで、各種モデルを提供するセルフホスト型推論サーバー。
3410322PythonApache-2.0更新 5 時間前
#inference-server
「inference-server」に関するオープンソースプロジェクト
inference-server に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
#inference-server
inference-server に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
自社クラウドの単一クラスターで、各種モデルを提供するセルフホスト型推論サーバー。