Un launcher y una configuración de llama.cpp con parches para ejecutar el modelo ternario de 1,58 bits Ternary Bonsai 2 27B con un contexto de 262k en GPU NVIDIA de 12 GB y 8 GB.
826PythonOtherActualizado hace 21 horas
#rtx-4070
Proyectos open source sobre «rtx-4070»
Repositorios de GitHub seleccionados relacionados con rtx-4070, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
1 repositorio