Projetos open source sobre “llama-cpp”

Usa um iPhone conectado por USB-C para acelerar o prefill e ampliar o contexto de um modelo Qwen 27B executado localmente em um Mac.

Spark-X2.5 é uma série de modelos de linguagem com pesos abertos (4B e 1.7B), voltada para programação agêntica e uso de ferramentas em hardware local e dispositivos.

App para desktop que pesquisa arquivos locais pelo significado — fotos, PDFs, documentos, áudio, vídeo e código — e roda no dispositivo com o EmbeddingGemma 2.