GPUとCPUメモリに処理を分散し、DeepSeek-V4やQwen3.6などの大規模オープンウェイトモデルをコンシューマー向けGPUで動かす、エッジネイティブなMoEサービングエンジン。
1.5万1468PythonApache-2.0更新 17 時間前
代替 2 件
LM Studio の無料オープンソース代替を探していますか?以下の 2 件が LM Studio の代わりになります。すべて人が審査し、わかりやすく解説しているので、スター数・ライセンス・メンテナンス状況をひと目で比較できます。
| プロジェクト | スター | ライセンス | 最終コミット |
|---|---|---|---|
| FlashML-org/FreeToken | ★ 1.5万 | Apache-2.0 | 17 時間前 |
| drumih/turbo-fieldfare | ★ 6942 | Apache-2.0 | 4 日前 |
GPUとCPUメモリに処理を分散し、DeepSeek-V4やQwen3.6などの大規模オープンウェイトモデルをコンシューマー向けGPUで動かす、エッジネイティブなMoEサービングエンジン。
SSDからエキスパートをストリーミングし、約2 GBのメモリでApple Silicon Mac上のGemma 4 26B-A4Bを実行するSwift/Metalランタイム。