Un motor de inferencia MoE nativo para edge que ejecuta modelos grandes de pesos abiertos, como DeepSeek-V4 y Qwen3.6, en GPU de consumo al distribuir el trabajo entre la memoria de la GPU y la CPU.
14,6 mil1,5 milPythonApache-2.0Actualizado hace 15 horas