JustVugg / colibriGitHubルーティングされたエキスパートをディスクから読み込み、一般的なハードウェアで超大規模MoEモデルを動かす純C製推論エンジン。AI・機械学習#llm-inference#mixture-of-experts#local-llm#vulkan#cuda4.3万4789CApache-2.0更新 14 時間前