IntelのLLM・VLM向け事後学習量子化ツールキット。モデルを低ビット重みに圧縮し、Transformers、vLLM、SGLangに対応します。
1684193PythonApache-2.0更新 4 時間前
#post-training-quantization
post-training-quantization に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
IntelのLLM・VLM向け事後学習量子化ツールキット。モデルを低ビット重みに圧縮し、Transformers、vLLM、SGLangに対応します。