SGLang、vLLM、TensorRT-LLM、Triton向けに、GPUスケジューリングとモデルのライフサイクル管理を備えたLLMサービング用Kubernetes Operator。
518104GoApache-2.0更新 15 時間前
#kimi-k2
「kimi-k2」に関するオープンソースプロジェクト
kimi-k2 に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
#kimi-k2
kimi-k2 に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
SGLang、vLLM、TensorRT-LLM、Triton向けに、GPUスケジューリングとモデルのライフサイクル管理を備えたLLMサービング用Kubernetes Operator。