Toolkit da Intel para quantização pós-treinamento de LLMs e VLMs, que comprime modelos usando pesos de baixa precisão para Transformers, vLLM e SGLang.
1,7 mil193PythonApache-2.0Atualizado há 3 horas
#int4
Projetos open source sobre “int4”
Repositórios do GitHub selecionados relacionados a int4, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
2 repositórios
Biblioteca Python open source da Intel para comprimir modelos de deep learning com quantização, esparsidade e destilação em PyTorch, JAX e ONNX.
2,7 mil331PythonApache-2.0Atualizado há 22 horas