Механизм инференса на чистом C запускает очень большие MoE-модели на обычном оборудовании, подгружая выбранных экспертов с диска.
42,8 тыс.4,8 тыс.CApache-2.0Обновлён 13 часов назад
#offloading
Open source проекты по теме «offloading»
Отобранные репозитории GitHub по теме offloading с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
1 репозиторий