flashinfer-ai / flashinferGitHub面向 LLM 推理的 GPU 内核库与代码生成器,统一提供注意力、GEMM、MoE 与采样算子接口。AI 与机器学习#llm-inference#cuda#gpu#attention#moe6771+10 本周1644CudaApache-2.0更新于 13小时前