Toolkit de Intel para la cuantización postentrenamiento de LLM y VLM, que comprime los modelos con pesos de pocos bits para Transformers, vLLM y SGLang.
1,7 mil193PythonApache-2.0Actualizado hace 3 horas
#int4
Proyectos open source sobre «int4»
Repositorios de GitHub seleccionados relacionados con int4, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
2 repositorios
Biblioteca Python de código abierto de Intel para comprimir modelos de deep learning mediante cuantización, sparsity y destilación en PyTorch, JAX y ONNX.
2,7 mil331PythonApache-2.0Actualizado hace 22 horas