Biblioteca Python que executa LLMs grandes camada por camada, permitindo inferência com modelos da classe 70B em uma única GPU de 4 GB, sem quantização.
39,5 mil4 milJupyter NotebookApache-2.0Atualizado há 21 horas
#low-vram
Projetos open source sobre “low-vram”
Repositórios do GitHub selecionados relacionados a low-vram, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
1 repositório