Рецепт для запуска DeepSeek-V4.1-Flash-1017 (EXL3 2.9 bpw) на двух NVIDIA DGX Sparks с OpenAI-совместимым API и контекстом в 1 млн токенов.
13421ShellApache-2.0Обновлён 12 часов назад
#exllama
Отобранные репозитории GitHub по теме exllama с описаниями от ИИ и ключевыми метриками.
Рецепт для запуска DeepSeek-V4.1-Flash-1017 (EXL3 2.9 bpw) на двух NVIDIA DGX Sparks с OpenAI-совместимым API и контекстом в 1 млн токенов.