Un motor de inferencia escrito íntegramente en C que ejecuta modelos MoE muy grandes en hardware convencional mediante la carga de expertos desde el disco según se necesitan.
42,8 mil4,8 milCApache-2.0Actualizado hace 5 horas
#offloading
Proyectos open source sobre «offloading»
Repositorios de GitHub seleccionados relacionados con offloading, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
1 repositorio