Biblioteca de Python que ejecuta modelos de lenguaje grandes capa por capa para que los modelos de 70B puedan inferir en una sola GPU de 4 GB, sin cuantización.
39,5 mil4 milJupyter NotebookApache-2.0Actualizado hace 21 horas
#low-vram
Proyectos open source sobre «low-vram»
Repositorios de GitHub seleccionados relacionados con low-vram, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
1 repositorio