C++-сервер для инференса LLM на потребительских GPU и смешанных системах AMD/NVIDIA со спекулятивным декодированием, спекулятивным prefill и кастомными ядрами.
3 тыс.+3 за неделю286C++Apache-2.0Обновлён 18 часов назад
#dflash
Open source проекты по теме «dflash»
Отобранные репозитории GitHub по теме dflash с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
1 репозиторий