vllm-project / llm-compressorGitHub量子化や枝刈りでLLMを圧縮し、vLLMでそのまま推論に使えるチェックポイントを生成するPythonライブラリです。AI・機械学習#llm#quantization#model-compression#vllm#inference3901707PythonApache-2.0更新 2 時間前