Um mecanismo de serving de MoE nativo para edge que executa modelos open-weight grandes, como DeepSeek-V4 e Qwen3.6, em GPUs de consumo, dividindo o trabalho entre a memória da GPU e a da CPU.
14,6 mil1,5 milPythonApache-2.0Atualizado há 14 horas
#moe
Projetos open source sobre “moe”
Repositórios do GitHub selecionados relacionados a moe, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
2 repositórios
Um mecanismo de inferência totalmente em C que executa modelos MoE muito grandes em hardware comum, carregando especialistas roteados do disco sob demanda.
42,7 mil4,8 milCApache-2.0Atualizado há 8 horas