C++ 和 Python 推理库，通过量化和优化内核，更快、更省内存地运行 Whisper、Llama、NLLB 等 Transformer 模型。
4716547C++MIT更新于 昨天
#avx
“avx” 相关开源项目
与 avx 相关的精选 GitHub 开源仓库，附 AI 中文概要与关键数据。
#avx
与 avx 相关的精选 GitHub 开源仓库，附 AI 中文概要与关键数据。
C++ 和 Python 推理库，通过量化和优化内核，更快、更省内存地运行 Whisper、Llama、NLLB 等 Transformer 模型。