Edge-native движок для MoE-моделей, который запускает большие модели с открытыми весами, такие как DeepSeek-V4 и Qwen3.6, на потребительских GPU, распределяя нагрузку между GPU и памятью CPU.
14,6 тыс.1,5 тыс.PythonApache-2.0Обновлён 10 часов назад
#moe
Open source проекты по теме «moe»
Отобранные репозитории GitHub по теме moe с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
2 репозитория
Движок инференса на чистом C, который запускает очень большие MoE-модели на обычном оборудовании, подгружая выбранные эксперты с диска.
42,7 тыс.4,8 тыс.CApache-2.0Обновлён 4 часа назад