Um inicializador e uma configuração corrigida do llama.cpp que executam o modelo ternário Ternary Bonsai 2 27B de 1,58 bit, com contexto de 262 mil tokens, em GPUs NVIDIA de 12 GB e 8 GB.
826PythonOtherAtualizado ontem
#bonsai
Projetos open source sobre “bonsai”
Repositórios do GitHub selecionados relacionados a bonsai, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
1 repositório