Biblioteca de C++ y Python que ejecuta modelos Transformer como Whisper, Llama y NLLB más rápido y con menos memoria gracias a la cuantización y los kernels optimizados.
4,7 mil547C++MITActualizado ayer
#avx
Repositorios de GitHub seleccionados relacionados con avx, con resúmenes de IA y métricas clave.
Biblioteca de C++ y Python que ejecuta modelos Transformer como Whisper, Llama y NLLB más rápido y con menos memoria gracias a la cuantización y los kernels optimizados.