Toolkit da Intel para quantização pós-treinamento de LLMs e VLMs, que comprime modelos usando pesos de baixa precisão para Transformers, vLLM e SGLang.
1,7 mil193PythonApache-2.0Atualizado há 4 horas
#post-training-quantization
Repositórios do GitHub selecionados relacionados a post-training-quantization, com resumos de IA e métricas principais.
Toolkit da Intel para quantização pós-treinamento de LLMs e VLMs, que comprime modelos usando pesos de baixa precisão para Transformers, vLLM e SGLang.