Una app para la barra de menús de macOS que ejecuta LLM locales con llama.cpp y ofrece una API compatible con OpenAI en localhost.
1,7 mil130SwiftMITActualizado hace 22 horas
#llama-cpp
Proyectos open source sobre «llama-cpp»
Repositorios de GitHub seleccionados relacionados con llama-cpp, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
4 repositoriosQuitar filtros
Usa un iPhone conectado por USB-C para acelerar el prefill y ampliar el contexto de un modelo Qwen 27B que se ejecuta localmente en una Mac.
1 mil116PythonMITActualizado hace 6 días
Spark-X2.5 es una serie de modelos de lenguaje de pesos abiertos (4B y 1.7B) orientados a la programación con agentes y al uso de herramientas en hardware local y dispositivos.
812110Apache-2.0Actualizado hace 29 días
Aplicación de escritorio que busca archivos locales por su contenido, en fotos, PDF, documentos, audio, video y código, y funciona en el dispositivo con EmbeddingGemma 2.
4,8 mil339SwiftMITActualizado ayer