Framework oficial da Microsoft para inferência em CPU/GPU de LLMs de 1 bit (ternários, 1,58 bit), baseado no llama.cpp.
41,2 mil3,8 milC++MITAtualizado há 3 meses
#ternary-weights
Repositórios do GitHub selecionados relacionados a ternary-weights, com resumos de IA e métricas principais.
Framework oficial da Microsoft para inferência em CPU/GPU de LLMs de 1 bit (ternários, 1,58 bit), baseado no llama.cpp.