“llama-cpp” 관련 오픈소스 프로젝트

USB-C로 연결한 iPhone을 활용해 Mac에서 로컬 실행하는 27B Qwen 모델의 프리필 속도와 컨텍스트 길이를 늘립니다.

Spark-X2.5는 로컬 및 온디바이스 환경에서 에이전트형 코딩과 도구 사용을 지원하는 오픈 웨이트 언어 모델 시리즈(4B, 1.7B)입니다.

EmbeddingGemma 2로 사진, PDF, 문서, 오디오, 동영상, 코드를 의미 기반으로 검색하는 로컬 데스크톱 앱