Набор инструментов Intel для посттренировочной квантизации LLM и VLM, который сжимает модели до низкой разрядности весов для Transformers, vLLM и SGLang.
1,7 тыс.193PythonApache-2.0Обновлён 4 часа назад
#post-training-quantization
Отобранные репозитории GitHub по теме post-training-quantization с описаниями от ИИ и ключевыми метриками.
Набор инструментов Intel для посттренировочной квантизации LLM и VLM, который сжимает модели до низкой разрядности весов для Transformers, vLLM и SGLang.