App de barra de menus para macOS que executa LLMs localmente, baseado no llama.cpp e com uma API no estilo OpenAI em localhost.
1,7 mil130SwiftMITAtualizado há 22 horas
#llama-cpp
Projetos open source sobre “llama-cpp”
Repositórios do GitHub selecionados relacionados a llama-cpp, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
4 repositóriosLimpar filtros
Usa um iPhone conectado por USB-C para acelerar o prefill e ampliar o contexto de um modelo Qwen 27B executado localmente em um Mac.
1 mil116PythonMITAtualizado há 6 dias
Spark-X2.5 é uma série de modelos de linguagem com pesos abertos (4B e 1.7B), voltada para programação agêntica e uso de ferramentas em hardware local e dispositivos.
812110Apache-2.0Atualizado há 29 dias
App para desktop que pesquisa arquivos locais pelo significado — fotos, PDFs, documentos, áudio, vídeo e código — e roda no dispositivo com o EmbeddingGemma 2.
4,8 mil339SwiftMITAtualizado ontem