vllm-project / speculatorsGitHub用于训练推测解码草稿模型、可直接部署到 vLLM 推理引擎的 Python 库。AI 与机器学习#speculative-decoding#llm-inference#vllm#draft-model#model-training920+2 本周271PythonApache-2.0更新于 昨天