llama.cpp 기반으로 로컬 LLM을 실행하고, 로컬 API 서버와 내장 WebUI를 제공하는 macOS 메뉴 막대 앱
1.7천130SwiftMIT업데이트 그저께
#llama-cpp
“llama-cpp” 관련 오픈소스 프로젝트
llama-cpp 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
저장소 6개필터 초기화
Windows 또는 Linux에서 일반 NVIDIA·AMD GPU로 대형 Qwen3.8-Flash-Next 모델을 실행하는 로컬 추론 엔진
2.8만2.9천C++MIT업데이트 3일 전
USB-C로 iPhone과 Mac을 연결해 휴대폰 GPU로 로컬 Qwen 27B 추론의 프롬프트 처리와 컨텍스트 길이를 개선합니다.
1.1천118PythonMIT업데이트 6일 전
검사 결과, 웨어러블 데이터, 유전 파일을 추적 가능한 기록으로 표준화하는 셀프 호스팅 AI 건강 데이터 엔진
1.4천242PythonApache-2.0업데이트 11시간 전
온디바이스 및 에이전트 도구 호출 워크플로를 위한 XHToken의 오픈 웨이트 4B·1.7B 범용 언어 모델
814110Apache-2.0업데이트 16시간 전
Mac, Windows, Linux에서 사진·PDF·문서·녹음·동영상·코드를 내용 설명으로 찾는 로컬 파일 검색 앱
4.9천354SwiftMIT업데이트 그저께