Usa un iPhone conectado por USB-C para acelerar el prefill y ampliar el contexto de un modelo Qwen 27B que se ejecuta localmente en una Mac.
1 mil116PythonMITActualizado hace 5 días
#llama-cpp
Repositorios de GitHub seleccionados relacionados con llama-cpp, con resúmenes de IA y métricas clave.
Usa un iPhone conectado por USB-C para acelerar el prefill y ampliar el contexto de un modelo Qwen 27B que se ejecuta localmente en una Mac.
Spark-X2.5 es una serie de modelos de lenguaje de pesos abiertos (4B y 1.7B) orientados a la programación con agentes y al uso de herramientas en hardware local y dispositivos.
Aplicación de escritorio que busca archivos locales por su contenido, en fotos, PDF, documentos, audio, video y código, y funciona en el dispositivo con EmbeddingGemma 2.