eagle-hq / EAGLE-4GitHubEAGLE-4 的推理代码,通过投机解码为 SGLang、vLLM 和 TokenSpeed 上的大模型推理提速。AI 与机器学习#llm-inference#speculative-decoding#gpu#sglang#vllm2296PythonOther更新于 15小时前