대규모 언어 모델을 로컬에서 실행하고, 채팅 UI와 OpenAI/Anthropic 호환 API를 제공하는 무료 오픈소스 데스크톱 앱입니다.
ggml-org/llama.vim
llama.cpp 서버를 통해 로컬 LLM 기반 FIM 코드 완성과 지시 기반 편집을 제공하는 Vim 플러그인입니다.
대체할 수 있는 제품:GitHub Copilot
- 스타
- 2,191
- 포크
- 128
- 열린 이슈
- 28
- 마지막 커밋
- 22일 전
어떤 프로젝트인가요?
llama.vim은 Insert 모드에서 입력하는 동안 LLM 지원 텍스트 완성을 제공하는 Vim 플러그인입니다. 커서 주변의 코드를 로컬이나 다른 호스트에서 실행 중인 llama.cpp 서버로 보내고, 제안 내용을 인라인으로 표시해 Tab으로 적용하거나 Shift+Tab으로 첫 줄만 적용할 수 있습니다.
FIM 완성 외에도 키맵으로 실행하는 지시 기반 편집을 지원합니다. 변경 사항을 설명하면 모델이 편집 내용을 제안합니다. 열린 파일과 편집한 파일, yank한 텍스트에서 가져온 컨텍스트 청크를 링 형태로 유지하며, 각 요청의 성능 통계도 표시할 수 있습니다. 이름이 지정된 여러 llama.cpp 서버를 프로필로 등록하고 :LlamaProfile 명령으로 실행 중에 전환할 수 있습니다.
플러그인을 사용하려면 llama.cpp 서버가 실행 중이어야 하며 FIM 호환 모델이 필요합니다. README에서는 사용 가능한 VRAM 용량에 맞는 Qwen coder 모델을 권장하며, g:llama_config 변수로 설정합니다.
핵심 기능
- 01Insert 모드에서 커서가 움직일 때 자동으로 완성 내용을 제안합니다
- 02Tab으로 제안 전체를 적용하거나 Shift+Tab으로 첫 줄만 적용합니다
- 03키맵으로 실행하는 지시 기반 편집
- 04열린 파일, 편집한 파일, yank한 텍스트를 바탕으로 컨텍스트 링을 구성합니다
- 05이름이 지정된 서버 프로필을 실행 중에 전환할 수 있습니다
- 06요청별 성능 통계를 인라인으로 표시합니다
활용 사례
- 소스 코드를 로컬 하드웨어에 유지하면서 Vim에서 코드 완성을 받는 경우
- LAN에서 공유 llama.cpp 서버를 실행하고 여러 Vim 설정에서 연결하는 경우
- Vim에서 자연어로 변경 사항을 설명해 코드를 편집하는 경우
빠른 시작
- 1
Homebrew로 macOS에 llama.cpp 서버 설치하기
brew install llama.cpp - 2
vim-plug로 llama.vim 플러그인 설치하기
Plug 'ggml-org/llama.vim' - 3
VRAM 용량에 맞는 모델로 llama.cpp 서버 시작하기(8~16GB의 경우 예시)
llama-server --fim-qwen-3b-default
사용 전 알아둘 점
- llama.cpp 서버가 실행 중이어야 하며 FIM 호환 모델이 필요합니다.
- 완성 품질과 속도는 로컬 하드웨어, 특히 GPU VRAM 용량에 따라 달라집니다.
토픽
자주 묻는 질문
- llama.vim은(는) 무엇인가요?
- llama.cpp 서버를 통해 로컬 LLM 기반 FIM 코드 완성과 지시 기반 편집을 제공하는 Vim 플러그인입니다. llama.vim은 Insert 모드에서 입력하는 동안 LLM 지원 텍스트 완성을 제공하는 Vim 플러그인입니다. 커서 주변의 코드를 로컬이나 다른 호스트에서 실행 중인 llama.cpp 서버로 보내고, 제안 내용을 인라인으로 표시해 Tab으로 적용하거나 Shift+Tab으로 첫 줄만 적용할 수 있습니다.
- llama.vim은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- llama.vim은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- llama.vim은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. llama.vim의 마지막 커밋은 2026년 9월 29일입니다.
- llama.vim은(는) 어디에 사용할 수 있나요?
- 소스 코드를 로컬 하드웨어에 유지하면서 Vim에서 코드 완성을 받는 경우 LAN에서 공유 llama.cpp 서버를 실행하고 여러 Vim 설정에서 연결하는 경우 Vim에서 자연어로 변경 사항을 설명해 코드를 편집하는 경우
- llama.vim는 어떻게 설치하나요?
- Homebrew로 macOS에 llama.cpp 서버 설치하기: brew install llama.cpp vim-plug로 llama.vim 플러그인 설치하기: Plug 'ggml-org/llama.vim' VRAM 용량에 맞는 모델로 llama.cpp 서버 시작하기(8~16GB의 경우 예시): llama-server --fim-qwen-3b-default
- llama.vim은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/ggml-org/llama.vim
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
설치 없이 대부분의 운영체제와 CPU 아키텍처에서 실행되는 단일 실행 파일 형태로 오픈 LLM을 배포하고 실행합니다.
llama.cpp 기반으로 LLaMA 계열 및 기타 GGUF 언어 모델을 CPU나 GPU에서 로컬로 실행하는 C#/.NET 라이브러리입니다.
llama.cpp 기반으로 로컬 LLM을 실행하고, 로컬 API 서버와 내장 WebUI를 제공하는 macOS 메뉴 막대 앱
Cursor 스타일 AI 채팅, 코드 제안, 원클릭 diff 적용 기능을 에디터에 제공하는 Neovim 플러그인입니다.
CLI, Python, Android, Docker 또는 OpenAI 호환 서버를 통해 Qualcomm Snapdragon 기기의 NPU, GPU, CPU에서 모델을 실행하는 온디바이스 LLM 및 VLM 추론 런타임입니다.