sgl-project / sglangGitHubSGLang 是一个开源推理框架,用于在多种 GPU、TPU、CPU 等硬件上部署大语言模型、视觉语言模型和扩散模型。AI 与机器学习#llm#inference#gpu#serving#vlm3.7万9720PythonApache-2.0更新于 6小时前