ggml-org/llama.vscode

这是什么？

核心功能

• 01输入时自动给出代码补全建议，支持整段、单行或单词接受
• 02通过 llama.cpp 在本地运行支持 FIM 的模型，Mac 和 Windows 可自动安装 llama.cpp
• 03Llama Agent 支持智能体编码，可调用内置工具、自定义 JavaScript 工具和 MCP 服务器
• 04支持对补全、对话、向量嵌入和工具模型进行管理，并可导入导出
• 05可在扩展内直接从 Hugging Face 搜索并下载模型

适用场景

• 在 VS Code 中使用本地模型获得私密、可离线的代码补全
• 无需离开编辑器，就能与本地或外部模型讨论代码
• 在编辑器内运行智能体，调用 VS Code 中已配置的 MCP 工具
• 在显存有限的个人电脑上试用不同的补全或对话模型

快速上手

1. 1

   从 VS Code 扩展市场安装 llama-vscode 扩展

2. 2

   在 macOS 上用 Homebrew 安装 llama.cpp

   brew install llama.cpp
3. 3

   使用默认 FIM 模型启动 llama.cpp 服务（适用于 16GB 以上显存）

   llama serve --fim-qwen-7b-default

使用前须知

• !Linux 用户需要手动安装 llama.cpp，可使用预编译二进制文件或从源码构建。
• !代码补全需要支持 FIM 的模型，并且需要足够的显存或内存才能保证速度。

收录于专题

标签

常见问题

llama.vscode 是什么？

基于 llama.cpp 的 VS Code 扩展，提供本地 LLM 代码补全、AI 对话与智能体编码功能。 llama.vscode 是一款 Visual Studio Code 扩展，把 LLM 辅助的文本补全、AI 对话和智能体编码能力带进编辑器。它以 llama.cpp 为基础，补全和对话可以调用本机上的本地模型，聊天与智能体功能也支持接入外部模型服务。

llama.vscode 可以免费使用吗？用的什么许可证？

llama.vscode 以 MIT 许可证开源。用于商业产品前，请先确认许可证条款。

llama.vscode 还在维护吗？

活跃维护中。llama.vscode 最近一次提交是在 2026年11月5日。

llama.vscode 适合用来做什么？

在 VS Code 中使用本地模型获得私密、可离线的代码补全 无需离开编辑器，就能与本地或外部模型讨论代码 在编辑器内运行智能体，调用 VS Code 中已配置的 MCP 工具 在显存有限的个人电脑上试用不同的补全或对话模型

llama.vscode 怎么安装和运行？

从 VS Code 扩展市场安装 llama-vscode 扩展 在 macOS 上用 Homebrew 安装 llama.cpp: brew install llama.cpp 使用默认 FIM 模型启动 llama.cpp 服务（适用于 16GB 以上显存）: llama serve --fim-qwen-7b-default

在哪里获取 llama.vscode？

源代码和安装说明在 GitHub 上：https://github.com/ggml-org/llama.vscode