Biblioteca de C++ y Python que ejecuta modelos Transformer como Whisper, Llama y NLLB más rápido y con menos memoria gracias a la cuantización y los kernels optimizados.
4,7 mil547C++MITActualizado ayer
#transformer-models
Repositorios de GitHub seleccionados relacionados con transformer-models, con resúmenes de IA y métricas clave.
Biblioteca de C++ y Python que ejecuta modelos Transformer como Whisper, Llama y NLLB más rápido y con menos memoria gracias a la cuantización y los kernels optimizados.