“sglang” 相关开源项目

面向大模型推理与智能体训练的大规模异步强化学习系统，支持通过替换 base_url 对黑盒智能体做在线 RL 训练。

用 Rust 编写的引擎无关 LLM 网关，将兼容 OpenAI 和 Anthropic 的请求分发到自部署推理引擎与云端模型服务。