Intel 开源的 LLM/VLM 训练后量化工具包,可将模型压缩为低比特权重,支持 Transformers、vLLM 和 SGLang。
1684193PythonApache-2.0更新于 4小时前
#post-training-quantization
与 post-training-quantization 相关的精选 GitHub 开源仓库,附 AI 中文概要与关键数据。
Intel 开源的 LLM/VLM 训练后量化工具包,可将模型压缩为低比特权重,支持 Transformers、vLLM 和 SGLang。