“gpu” 相关开源项目

Python 库，逐层加载大语言模型，让 70B 级模型可在单张 4GB 显卡上推理，无需量化。

面向 NVIDIA GPU 与昆仑芯 XPU 的大模型训练框架，覆盖 LLM、VLM、扩散与具身模型。

Windows 下编辑 NVIDIA 驱动配置文件的工具，可调整控制面板未开放的隐藏设置。

GPU.js 可将简单的 JavaScript 函数转译为 GPU 着色器代码，在浏览器和 Node.js 中加速计算，无 GPU 时回退到普通 JavaScript。

一款命令行工具，自动检测 GPU、CPU 和内存，从 HuggingFace 上挑选真正能在你的机器上运行、且表现最好的本地大模型。

跨平台、基于 OpenGL 的 GPU 加速终端模拟器，标签页和分屏交给 tmux 等工具完成。

在家用 NVIDIA 或 AMD 显卡上本地运行大参数 Qwen3.8-Flash-Next 模型的推理引擎，提供兼容 OpenAI 与 Anthropic 的本地 API。

基于 OpenGL/ES 的跨平台 C++ 图像与视频滤镜库，提供美颜等实时效果。

一款 GPU over IP 桥接工具，让无 GPU 的机器通过网络使用远程服务器上的 GPU。

面向消费级硬件的边缘端 MoE 推理引擎，可在个人电脑上运行大型开源权重模型。

用 Rust 编写、GPU 渲染的终端，后台服务保持会话存活，支持 AI 编码代理与远程 SSH 工作。

一门分周讲解的课程，教你用 FastRTC、Superlinked、Twilio 等搭建 AI 语音呼叫中心。

面向 NVIDIA GPU 的交互式终端监控工具，可查看设备与进程状态，并附带 CUDA 设备选择工具和 Python API。