Un launcher y una configuración de llama.cpp con parches para ejecutar el modelo ternario de 1,58 bits Ternary Bonsai 2 27B con un contexto de 262k en GPU NVIDIA de 12 GB y 8 GB.
796PythonOtherActualizado hace 6 horas
#cuda
Proyectos open source sobre «cuda»
Repositorios de GitHub seleccionados relacionados con cuda, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
2 repositoriosQuitar filtros
Curso de ML basado en la práctica: crea desde cero un framework de deep learning con NumPy y resuelve más de 350 ejercicios de código en el navegador, evaluados con Pyodide.
56166PythonOtherActualizado hace 11 horas