Un launcher y una configuración de llama.cpp con parches para ejecutar el modelo ternario de 1,58 bits Ternary Bonsai 2 27B con un contexto de 262k en GPU NVIDIA de 12 GB y 8 GB.
826PythonOtherActualizado hace 15 horas
#bonsai
Proyectos open source sobre «bonsai»
Repositorios de GitHub seleccionados relacionados con bonsai, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
1 repositorio