Configuração para servir o Mirai S 27B (um Qwen3.8-27B em GGUF) em uma RTX 4070 de 12 GB, com janela completa de 262 mil tokens e cache K/V q8_0.
10110PythonOtherAtualizado há 7 horas
#gpu
Projetos open source sobre “gpu”
Repositórios do GitHub selecionados relacionados a gpu, com resumos de IA e métricas principais.