Biblioteca C++ e Python que executa modelos Transformer, como Whisper, Llama e NLLB, com mais rapidez e menos memória usando quantização e kernels otimizados.
4,7 mil547C++MITAtualizado há 7 horas
#avx
Repositórios do GitHub selecionados relacionados a avx, com resumos de IA e métricas principais.
Biblioteca C++ e Python que executa modelos Transformer, como Whisper, Llama e NLLB, com mais rapidez e menos memória usando quantização e kernels otimizados.