Исследовательский фреймворк для гетерогенного инференса LLM на CPU и GPU, а также LoRA- и полного дообучения крупных MoE-моделей при ограниченной видеопамяти.
19,6 тыс.1,6 тыс.PythonApache-2.0Обновлён позавчера
#cpu-offload
Open source проекты по теме «cpu-offload»
Отобранные репозитории GitHub по теме cpu-offload с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
1 репозиторий