FlashML-org / FreeTokenGitHub面向消费级硬件的边缘端 MoE 推理引擎，通过 GPU 与 CPU 协同运行超大开源模型。AI 与机器学习#moe#llm-inference#edge-ai#local-llm#quantization1.5万1468PythonApache-2.0更新于 17小时前
