Código de inferencia para EAGLE-4, un sistema de decodificación especulativa que acelera el servicio de LLM en SGLang, vLLM y TokenSpeed.
2296PythonOtherActualizado hace 15 horas
#tokenspeed
Proyectos open source sobre «tokenspeed»
Repositorios de GitHub seleccionados relacionados con tokenspeed, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
1 repositorio