서빙 엔진 간에 LLM 어텐션 캐시를 저장하고 공유·재사용해 첫 토큰 생성 시간(TTFT)을 줄이는 KV 캐시 관리 계층입니다.
kunobi-ninja/kache
Rust, C/C++, CUDA용 컴파일 캐시로, 다시 빌드하는 대신 worktree와 CI 실행 간에 일치하는 빌드 결과물을 복원합니다.
- 스타
- 1,371
- 포크
- 73
- 열린 이슈
- 30
- 마지막 커밋
- 5시간 전
어떤 프로젝트인가요?
Kache는 입력, 툴체인, 빌드 설정을 키로 빌드 결과물을 저장하고, 이후 빌드에서 같은 키가 나오면 이를 복원하는 컴파일 캐시입니다. Linux, macOS, Windows에서 Rust, C/C++ 및 단일 소스 CUDA 컴파일을 지원하며, git worktree와 CI 실행 간에 작업을 공유할 수 있습니다.
동일한 바이트로 이루어진 결과물은 디스크 용량 한도 내에서 한 번만 저장합니다. copy-on-write 복제를 지원하는 파일시스템에서는 복원된 결과물이 캐시와 디스크 블록을 공유합니다. 같은 캐시 키를 사용하는 컴파일은 진행 중인 빌드 하나를 공유하며, 스케줄러는 컴파일러 프로세스 실행 속도를 조절합니다.
로컬 캐시는 단독으로 사용할 수 있습니다. 원격 저장소로는 S3 호환 스토리지, Google Cloud Storage, 공유 파일시스템 또는 OCI 레지스트리를 사용할 수 있습니다. `kache explain` 같은 명령어로 빌드가 캐시를 사용하지 못한 이유를 확인할 수 있으며, 지원되지 않는 컴파일러 호출은 정상적으로 실행됩니다.
핵심 기능
- 01지원되는 Rust, GCC, Clang 및 CUDA 컴파일 결과물을 캐시에서 복원합니다.
- 02설정 가능한 디스크 용량 한도 내에서 동일한 결과물은 한 번만 저장합니다.
- 03지원되는 파일시스템에서 copy-on-write 복제로 디스크 블록을 공유합니다.
- 04캐시 키가 일치하는 진행 중인 빌드를 공유합니다.
- 05원격 저장소로 S3, Google Cloud Storage, 공유 파일시스템 및 OCI 레지스트리를 지원합니다.
- 06`kache explain`으로 캐시 미스 원인을 확인하고, `kache monitor`로 실시간 상태를 모니터링합니다.
활용 사례
- 같은 저장소의 여러 git worktree에서 Rust 빌드를 반복할 때 빌드 속도를 높입니다.
- 원격 캐시를 사용해 CI 실행 간 컴파일 결과물을 공유합니다.
- 여러 worktree에서 동일한 대규모 의존성 트리를 빌드할 때 디스크 사용량을 줄입니다.
- Make 또는 CMake로 빌드하는 프로젝트에서 C/C++ 또는 CUDA 컴파일 결과물을 캐시합니다.
빠른 시작
- 1
Cargo로 Kache v2.0.0 설치
cargo install kache --locked --version 2.0.0 - 2
빌드 도구에서 Kache 활성화(적용 전에 변경 사항 표시)
kache init - 3
로컬 프로브로 설정 확인
kache doctor --probe
사용 전 알아둘 점
- Cargo로 설치하려면 Rust 1.95 이상이 필요합니다.
- Rust 실행 파일과 build script 실행은 기본적으로 Linux와 macOS에서만 캐시됩니다. Windows의 캐싱 기능은 더 제한적입니다.
토픽
자주 묻는 질문
- kache은(는) 무엇인가요?
- Rust, C/C++, CUDA용 컴파일 캐시로, 다시 빌드하는 대신 worktree와 CI 실행 간에 일치하는 빌드 결과물을 복원합니다. Kache는 입력, 툴체인, 빌드 설정을 키로 빌드 결과물을 저장하고, 이후 빌드에서 같은 키가 나오면 이를 복원하는 컴파일 캐시입니다. Linux, macOS, Windows에서 Rust, C/C++ 및 단일 소스 CUDA 컴파일을 지원하며, git worktree와 CI 실행 간에 작업을 공유할 수 있습니다.
- kache은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- kache은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- kache은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. kache의 마지막 커밋은 2026년 11월 7일입니다.
- kache은(는) 어디에 사용할 수 있나요?
- 같은 저장소의 여러 git worktree에서 Rust 빌드를 반복할 때 빌드 속도를 높입니다. 원격 캐시를 사용해 CI 실행 간 컴파일 결과물을 공유합니다. 여러 worktree에서 동일한 대규모 의존성 트리를 빌드할 때 디스크 사용량을 줄입니다. Make 또는 CMake로 빌드하는 프로젝트에서 C/C++ 또는 CUDA 컴파일 결과물을 캐시합니다.
- kache는 어떻게 설치하나요?
- Cargo로 Kache v2.0.0 설치: cargo install kache --locked --version 2.0.0 빌드 도구에서 Kache 활성화(적용 전에 변경 사항 표시): kache init 로컬 프로브로 설정 확인: kache doctor --probe
- kache은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/kunobi-ninja/kache
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
Lua 기반 크로스 플랫폼 빌드 도구로, C/C++를 비롯한 여러 언어를 빌드하고 패키지 관리자도 내장하고 있습니다.
SCons는 다시 빌드해야 할 항목을 파악하고 빌드 명령을 실행하는 Python 기반 소프트웨어 빌드 도구입니다.
Swift 코드를 일관된 스타일로 자동 정리하는 CLI 도구이자 Xcode 확장 프로그램입니다.
프로젝트의 디렉터리와 파일 이름 규칙을 .ls-lint.yml 파일로 설정하고 검사하는 빠른 CLI 린터입니다.