Toolkit de Intel para la cuantización postentrenamiento de LLM y VLM, que comprime los modelos con pesos de pocos bits para Transformers, vLLM y SGLang.
1,7 mil193PythonApache-2.0Actualizado hace 4 horas
#post-training-quantization
Repositorios de GitHub seleccionados relacionados con post-training-quantization, con resúmenes de IA y métricas clave.
Toolkit de Intel para la cuantización postentrenamiento de LLM y VLM, que comprime los modelos con pesos de pocos bits para Transformers, vLLM y SGLang.