Servidor de inferencia de LLM en C++ para GPU de consumo y equipos con hardware AMD y NVIDIA, con speculative decoding, speculative prefill y kernels personalizados.
3 mil+3 esta semana286C++Apache-2.0Actualizado hace 18 horas
#dflash
Proyectos open source sobre «dflash»
Repositorios de GitHub seleccionados relacionados con dflash, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
1 repositorio