flashinfer-ai / flashinferGitHubLLM推論向けのGPUカーネルライブラリ兼ジェネレーター。attention、GEMM、MoE、サンプリング操作に統一APIを提供します。AI・機械学習#llm-inference#cuda#gpu#attention#moe6771+10 今週1644CudaApache-2.0更新 12 時間前