Бесплатное приложение с открытым исходным кодом для запуска больших языковых моделей локально: чат-интерфейс и API, совместимый с OpenAI и Anthropic.
ggml-org/llama.vim
Плагин для Vim с локальным автодополнением кода на базе LLM и редактированием по инструкциям через сервер llama.cpp.
Open source альтернатива:GitHub Copilot
- Звёзды
- 2,191
- Форки
- 128
- Открытые issues
- 28
- Последний коммит
- 22 дня назад
Что это?
llama.vim — плагин для Vim, который добавляет подсказки текста на базе LLM при наборе в режиме Insert. Он отправляет фрагмент кода вокруг курсора на сервер llama.cpp, запущенный локально или на другом хосте, и показывает подсказку прямо в редакторе. Её можно принять клавишей Tab, а нажатие Shift+Tab вставит только первую строку.
Помимо автодополнения fill-in-the-middle, плагин поддерживает редактирование по инструкциям, вызываемое через keymap: вы описываете изменение, а модель предлагает правку. Плагин хранит кольцевой буфер контекста из открытых и отредактированных файлов, а также скопированного текста, и может показывать статистику производительности для каждого запроса. Несколько серверов llama.cpp можно задать как именованные профили и переключать во время работы командой :LlamaProfile.
Для работы плагину нужен запущенный сервер llama.cpp и модели, совместимые с FIM. В README рекомендуются модели Qwen coder, размер которых зависит от доступного VRAM. Настройки задаются через переменную g:llama_config.
Ключевые возможности
- 01Предлагает варианты автодополнения при перемещении курсора в режиме Insert
- 02Принимает подсказку целиком клавишей Tab или только первую строку — Shift+Tab
- 03Запускает редактирование по инструкциям через keymap
- 04Собирает кольцевой буфер контекста из открытых и отредактированных файлов, а также скопированного текста
- 05Позволяет переключать именованные профили серверов во время работы
- 06Показывает статистику производительности для каждого запроса прямо в редакторе
Сценарии использования
- Получение подсказок кода в Vim с обработкой исходников на локальном оборудовании
- Использование общего сервера llama.cpp в локальной сети несколькими конфигурациями Vim
- Редактирование кода в Vim с помощью описания изменений на естественном языке
Быстрый старт
- 1
Установите сервер llama.cpp на macOS с помощью Homebrew
brew install llama.cpp - 2
Установите плагин llama.vim с помощью vim-plug
Plug 'ggml-org/llama.vim' - 3
Запустите сервер llama.cpp с моделью, подходящей для объёма вашей VRAM (пример для 8–16 ГБ)
llama-server --fim-qwen-3b-default
Что важно знать
- Требуется работающий сервер llama.cpp и модели, совместимые с FIM.
- Качество и скорость автодополнения зависят от локального оборудования, особенно от объёма VRAM видеокарты.
Темы
Частые вопросы
- Что такое llama.vim?
- Плагин для Vim с локальным автодополнением кода на базе LLM и редактированием по инструкциям через сервер llama.cpp. llama.vim — плагин для Vim, который добавляет подсказки текста на базе LLM при наборе в режиме Insert. Он отправляет фрагмент кода вокруг курсора на сервер llama.cpp, запущенный локально или на другом хосте, и показывает подсказку прямо в редакторе. Её можно принять клавишей Tab, а нажатие Shift+Tab вставит только первую строку.
- llama.vim можно использовать бесплатно? Какая у него лицензия?
- llama.vim распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- llama.vim всё ещё поддерживается?
- Активно поддерживается. Последний коммит в llama.vim — 29 сент. 2026 г..
- Для чего можно использовать llama.vim?
- Получение подсказок кода в Vim с обработкой исходников на локальном оборудовании Использование общего сервера llama.cpp в локальной сети несколькими конфигурациями Vim Редактирование кода в Vim с помощью описания изменений на естественном языке
- Как установить llama.vim?
- Установите сервер llama.cpp на macOS с помощью Homebrew: brew install llama.cpp Установите плагин llama.vim с помощью vim-plug: Plug 'ggml-org/llama.vim' Запустите сервер llama.cpp с моделью, подходящей для объёма вашей VRAM (пример для 8–16 ГБ): llama-server --fim-qwen-3b-default
- Где скачать llama.vim?
- Исходный код и инструкции по установке — на GitHub: https://github.com/ggml-org/llama.vim
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Распространяет и запускает открытые LLM в виде одного исполняемого файла, который работает в большинстве операционных систем и на большинстве архитектур CPU без установки.
Библиотека C#/.NET для локального запуска моделей семейства LLaMA и других языковых моделей GGUF на CPU или GPU на базе llama.cpp.
Приложение для строки меню macOS, запускающее локальные LLM на базе llama.cpp и предоставляющее локальный API-сервер со встроенным WebUI.
Плагин для Neovim, который добавляет чат с ИИ в стиле Cursor, подсказки кода и применение diff в один клик.
Среда для локального запуска LLM и VLM на устройствах Qualcomm Snapdragon: выполняет модели на NPU, GPU или CPU через CLI, Python, Android, Docker либо совместимый с OpenAI сервер.