Repolode
dwim-sh

dwim-sh/dwim

在本地 GPU 上运行 27B 模型的编程智能体,无需 API Key,数据不出本机。

Star
23
Fork
0
未关闭 Issue
12
最近提交
18小时前

这是什么?

dwim 是一个用 Rust 编写的编程智能体,将智能体、模型和推理引擎打包在同一个程序中。默认模型为 Bonsai 2 27B,基于 Qwen 架构并使用三值权重压缩到约 6 GB,首次使用时自动下载。安装后无需 API Key,也不依赖外部服务,代码始终留在本地。

在项目目录中运行 dwim 即可打开交互式命令行。输入需求后,模型会读取文件、执行 shell 命令、查看输出,并持续推进直到给出回答。也可以直接在命令行传入提示词,完成单次提问。推理在 macOS 上使用 Metal,在 Linux 上使用 Vulkan。

dwim 目前仍处于实验阶段。它执行命令时不会二次确认,也不设时间限制,因此建议在容器或虚拟机等沙箱中运行,并仅用于已提交或已备份的代码。

核心功能

  • 01本地运行的编程智能体,可执行命令并读取输出。
  • 02内置 Bonsai 2 27B 模型,采用三值权重压缩至约 6 GB。
  • 03在 macOS 上使用 Metal、在 Linux 上使用 Vulkan 进行本地推理。
  • 04提供交互式命令行,也支持命令行单次提问。
  • 05无需 API Key,也不依赖外部服务。

适用场景

  • 在不把代码发送给第三方的前提下,理解和梳理陌生的代码库。
  • 在具备较强 GPU 的离线或隔离环境中运行编程助手。
  • 在一次性的容器或虚拟机中试用本地编程智能体。

快速上手

  1. 1

    运行 README 中的官方安装脚本

  2. 2

    或使用 Cargo 安装开发版本

    cargo install --git https://github.com/dwim-sh/dwim
  3. 3

    在项目目录中运行 dwim;模型(约 6 GB)首次使用时下载

    dwim

使用前须知

  • 该项目处于实验阶段,不同提交之间可能有错误和破坏性变更。
  • 模型会在未经询问的情况下运行 shell 命令,因此应在沙箱中使用,并且只用于已提交或已备份的代码。
  • 它需要本地 GPU,并且首次使用时需要下载约 6 GB 的模型。

收录于专题

标签

常见问题

dwim 是什么?
在本地 GPU 上运行 27B 模型的编程智能体,无需 API Key,数据不出本机。 dwim 是一个用 Rust 编写的编程智能体,将智能体、模型和推理引擎打包在同一个程序中。默认模型为 Bonsai 2 27B,基于 Qwen 架构并使用三值权重压缩到约 6 GB,首次使用时自动下载。安装后无需 API Key,也不依赖外部服务,代码始终留在本地。
dwim 可以免费使用吗?用的什么许可证?
dwim 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
dwim 还在维护吗?
活跃维护中。dwim 最近一次提交是在 2026年11月6日。
dwim 适合用来做什么?
在不把代码发送给第三方的前提下,理解和梳理陌生的代码库。 在具备较强 GPU 的离线或隔离环境中运行编程助手。 在一次性的容器或虚拟机中试用本地编程智能体。
dwim 怎么安装和运行?
运行 README 中的官方安装脚本 或使用 Cargo 安装开发版本: cargo install --git https://github.com/dwim-sh/dwim 在项目目录中运行 dwim;模型(约 6 GB)首次使用时下载: dwim
在哪里获取 dwim?
源代码和安装说明在 GitHub 上:https://github.com/dwim-sh/dwim

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目