JustVugg / colibriGitHub纯 C 推理引擎,通过从磁盘按需读取路由专家,在普通硬件上运行超大混合专家(MoE)模型。AI 与机器学习#llm-inference#mixture-of-experts#local-llm#vulkan#cuda4.3万4789CApache-2.0更新于 7小时前