Ускоряет prefill и расширяет контекст локальной модели Qwen 27B на Mac с помощью подключённого по USB-C iPhone.
1 тыс.116PythonMITОбновлён 5 дней назад
#llama-cpp
Отобранные репозитории GitHub по теме llama-cpp с описаниями от ИИ и ключевыми метриками.
Ускоряет prefill и расширяет контекст локальной модели Qwen 27B на Mac с помощью подключённого по USB-C iPhone.
Spark-X2.5 — серия языковых моделей с открытыми весами (4B и 1.7B) для агентного программирования и работы с инструментами на локальных устройствах.
Настольное приложение для смыслового поиска по локальным файлам — фото, PDF, документам, аудио, видео и коду — прямо на устройстве с EmbeddingGemma 2.