Framework de investigación para inferencia de LLM con arquitectura heterogénea CPU-GPU y ajuste fino LoRA o completo de modelos MoE grandes con memoria GPU limitada.
19,6 mil1,6 milPythonApache-2.0Actualizado anteayer
#cpu-offload
Proyectos open source sobre «cpu-offload»
Repositorios de GitHub seleccionados relacionados con cpu-offload, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
1 repositorio