Biblioteca de Python para entrenar modelos draft de speculative decoding que se despliegan directamente en el motor de inferencia vLLM.
920+2 esta semana271PythonApache-2.0Actualizado ayer
#draft-model
Repositorios de GitHub seleccionados relacionados con draft-model, con resúmenes de IA y métricas clave.
Biblioteca de Python para entrenar modelos draft de speculative decoding que se despliegan directamente en el motor de inferencia vLLM.