Um mecanismo de inferência em C puro que executa modelos MoE muito grandes em hardware comum, carregando especialistas selecionados do disco sob demanda.
42,8 mil4,8 milCApache-2.0Atualizado há 14 horas
#offloading
Projetos open source sobre “offloading”
Repositórios do GitHub selecionados relacionados a offloading, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
1 repositório