Edge-native движок для MoE-моделей, который запускает большие модели с открытыми весами, такие как DeepSeek-V4 и Qwen3.6, на потребительских GPU, распределяя нагрузку между GPU и памятью CPU.
14,6 тыс.1,5 тыс.PythonApache-2.0Обновлён 9 часов назад
Альтернатив: 2
Ищете бесплатную open source альтернативу LM Studio? Эти 2 проектов могут его заменить. Каждый проверен человеком и объяснён простыми словами — сравнивайте звёзды, лицензию и поддержку с первого взгляда.
| Проект | Звёзды | Лицензия | Последний коммит |
|---|---|---|---|
| FlashML-org/FreeToken | ★ 14,6 тыс. | Apache-2.0 | 9 часов назад |
| drumih/turbo-fieldfare | ★ 6,9 тыс. | Apache-2.0 | 3 дня назад |
Edge-native движок для MoE-моделей, который запускает большие модели с открытыми весами, такие как DeepSeek-V4 и Qwen3.6, на потребительских GPU, распределяя нагрузку между GPU и памятью CPU.
Среда выполнения на Swift и Metal для запуска Gemma 4 26B-A4B на Mac с Apple Silicon и примерно 2 ГБ памяти за счёт потоковой загрузки экспертов с SSD.