面向数据中心规模的分布式推理服务框架，可协调 vLLM、SGLang 和 TensorRT-LLM 跨多 GPU、多节点运行。
83821755RustOther更新于 8小时前
#omni
“omni” 相关开源项目
与 omni 相关的精选 GitHub 开源仓库，附 AI 中文概要与关键数据。
#omni
与 omni 相关的精选 GitHub 开源仓库，附 AI 中文概要与关键数据。
面向数据中心规模的分布式推理服务框架，可协调 vLLM、SGLang 和 TensorRT-LLM 跨多 GPU、多节点运行。