Repolode
ggml-org

ggml-org/llama.vscode

Расширение для VS Code с локальным автодополнением кода на базе LLM, AI-чатом и агентом для программирования, работающими на llama.cpp.

Open source альтернатива:GitHub Copilot

Звёзды
1,552
Форки
169
Открытые issues
53
Последний коммит
4 дня назад

Что это?

llama.vscode — расширение для Visual Studio Code, которое добавляет в редактор автодополнение текста с помощью LLM, чат и агентные функции для программирования. В основе расширения — llama.cpp: автодополнение и чат могут работать с локальными моделями на вашем компьютере, а для чата и агента также поддерживаются внешние провайдеры.

При вводе кода расширение автоматически предлагает варианты дополнения в формате fill-in-the-middle. С помощью клавиш можно принять предложение целиком, только первую строку или следующее слово. Для контекста используются текст рядом с курсором, открытые и изменённые файлы, а также скопированный текст; отображается и статистика производительности. Модели и их группы (envs) можно добавлять, экспортировать, импортировать и выбирать для автодополнения, чата, эмбеддингов и инструментов.

Представление Llama Agent открывается в Explorer и поддерживает встроенные инструменты, пользовательские инструменты на JavaScript и MCP-серверы, установленные в VS Code. Кроме того, расширение умеет искать и скачивать модели с Hugging Face.

Ключевые возможности

  • 01Автоматические предложения при вводе кода с возможностью принять всё предложение, одну строку или одно слово с помощью клавиш
  • 02Локальный запуск моделей с поддержкой FIM через llama.cpp; на Mac и Windows llama.cpp устанавливается автоматически
  • 03Llama Agent для агентного программирования со встроенными инструментами, пользовательскими инструментами на JavaScript и поддержкой MCP-серверов
  • 04Управление моделями и envs, включая импорт и экспорт, для автодополнения, чата, эмбеддингов и инструментов
  • 05Поиск и скачивание моделей с Hugging Face прямо из расширения

Сценарии использования

  • Приватное автономное автодополнение кода с помощью локальной модели при работе в VS Code
  • Общение с локальной или внешней моделью о коде, не выходя из редактора
  • Запуск агента в редакторе с MCP-инструментами, уже настроенными в VS Code
  • Проверка разных моделей для автодополнения или чата на пользовательском оборудовании с настройками для малого объёма VRAM

Быстрый старт

  1. 1

    Установите расширение llama-vscode из VS Code Marketplace

  2. 2

    Установите llama.cpp на macOS с помощью Homebrew

    brew install llama.cpp
  3. 3

    Запустите сервер llama.cpp с моделью FIM по умолчанию (подходит для 16 ГБ VRAM и более)

    llama serve --fim-qwen-7b-default

Что важно знать

  • Пользователям Linux необходимо установить llama.cpp вручную из бинарных файлов или исходного кода.
  • Для автодополнения нужны модели с поддержкой FIM и достаточный объём VRAM или RAM для хорошей скорости.

В подборках

Темы

Частые вопросы

Что такое llama.vscode?
Расширение для VS Code с локальным автодополнением кода на базе LLM, AI-чатом и агентом для программирования, работающими на llama.cpp. llama.vscode — расширение для Visual Studio Code, которое добавляет в редактор автодополнение текста с помощью LLM, чат и агентные функции для программирования. В основе расширения — llama.cpp: автодополнение и чат могут работать с локальными моделями на вашем компьютере, а для чата и агента также поддерживаются внешние провайдеры.
llama.vscode можно использовать бесплатно? Какая у него лицензия?
llama.vscode распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
llama.vscode всё ещё поддерживается?
Активно поддерживается. Последний коммит в llama.vscode — 1 нояб. 2026 г..
Для чего можно использовать llama.vscode?
Приватное автономное автодополнение кода с помощью локальной модели при работе в VS Code Общение с локальной или внешней моделью о коде, не выходя из редактора Запуск агента в редакторе с MCP-инструментами, уже настроенными в VS Code Проверка разных моделей для автодополнения или чата на пользовательском оборудовании с настройками для малого объёма VRAM
Как установить llama.vscode?
Установите расширение llama-vscode из VS Code Marketplace Установите llama.cpp на macOS с помощью Homebrew: brew install llama.cpp Запустите сервер llama.cpp с моделью FIM по умолчанию (подходит для 16 ГБ VRAM и более): llama serve --fim-qwen-7b-default
Где скачать llama.vscode?
Исходный код и инструкции по установке — на GitHub: https://github.com/ggml-org/llama.vscode

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты