Implementação oficial do FlashAttention, um kernel de atenção exata e eficiente em memória para treinar e executar inferência de modelos Transformer em GPUs.
25,2 mil3,2 milPythonBSD-3-ClauseAtualizado há 11 horas
#rocm
Projetos open source sobre “rocm”
Repositórios do GitHub selecionados relacionados a rocm, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
2 repositórios
Um mecanismo nativo de inferência especializado para executar DeepSeek V4 Flash e outros modelos grandes selecionados em hardware Metal, CUDA e ROCm de consumo.
23,9 mil2,3 milCMITAtualizado ontem