Biblioteca de Python para comprimir LLM mediante cuantización y poda, y generar checkpoints que vLLM carga directamente para inferencia.
3,9 mil707PythonApache-2.0Actualizado hace 2 horas
#gptq
Proyectos open source sobre «gptq»
Repositorios de GitHub seleccionados relacionados con gptq, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
1 repositorio