Um mecanismo minimalista de inferência de LLM em C11 que executa modelos GGUF de arquitetura LLaMA da classe de 1B em placas de baixo custo, como Raspberry Pi, usando cerca de 45 MB de RAM.
2,2 mil286CMITAtualizado há 8 meses
#arm
Projetos open source sobre “arm”
Repositórios do GitHub selecionados relacionados a arm, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
1 repositório