一个纯 C/C++ 编写的机器学习张量库，力求简洁、可移植且高效，部署门槛低。 ggml 是一个用纯 C 和 C++ 编写的机器学习张量库，没有任何外部依赖。它提供运行模型所需的底层基础组件，包括张量运算和计算图，便于嵌入到其他程序中。

ggml 可以免费使用吗？用的什么许可证？

ggml 以 MIT 许可证开源。用于商业产品前，请先确认许可证条款。

ggml 还在维护吗？

活跃维护中。ggml 最近一次提交是在 2026年11月4日。

ggml 适合用来做什么？

将机器学习推理嵌入到 C/C++ 应用中，占用资源较少在边缘设备或嵌入式硬件上执行张量计算为 CPU 和加速器构建量化模型运行时在浏览器中通过 WebAssembly 运行机器学习任务

ggml 怎么安装和运行？

克隆仓库: git clone https://github.com/ggml-org/ggml 进入项目目录: cd ggml 创建构建目录并使用 CMake 配置: mkdir build && cd build cmake .. 以 Release 模式构建库: cmake --build . --config Release -j 8

在哪里获取 ggml？

源代码和安装说明在 GitHub 上：https://github.com/ggml-org/ggml

ggml-org/ggml

一个纯 C/C++ 编写的机器学习张量库，力求简洁、可移植且高效，部署门槛低。

在 GitHub 查看官网

Star: 15,587
Fork: 1,917
未关闭 Issue: 380
最近提交: 3天前

这是什么？

ggml 是一个用纯 C 和 C++ 编写的机器学习张量库，没有任何外部依赖。它提供运行模型所需的底层基础组件，包括张量运算和计算图，便于嵌入到其他程序中。

该库覆盖多种硬件平台，可在 x86、ARM、RISC-V、LoongArch、PowerPC、s390x 和 WebAssembly 上构建，并为 x86、ARM 和 RISC-V 提供 SIMD 优化内核。后端支持 CPU、GPU、NPU 以及浏览器环境。量化支持 2 到 8 位整数，并支持 MXFP4 和 NVFP4 微缩放格式，运行时不进行内存分配。

仓库中提供了 examples/simple 下的极简矩阵乘法示例，并附有 GGUF 文件格式文档。核心库（包括 CMake 构建系统）的改动需通过 llama.cpp 项目提交。

核心功能

01纯 C/C++ 实现，无外部依赖
02为 x86、ARM 和 RISC-V 提供 SIMD 优化内核
03支持 CPU、GPU、NPU 和浏览器后端
04支持 2 到 8 位整数量化，以及 MXFP4 和 NVFP4 格式
05运行时不进行内存分配

适用场景

将机器学习推理嵌入到 C/C++ 应用中，占用资源较少
在边缘设备或嵌入式硬件上执行张量计算
为 CPU 和加速器构建量化模型运行时
在浏览器中通过 WebAssembly 运行机器学习任务

快速上手

1
克隆仓库
git clone https://github.com/ggml-org/ggml
2
进入项目目录
cd ggml
3
创建构建目录并使用 CMake 配置
mkdir build && cd build cmake ..
4
以 Release 模式构建库
cmake --build . --config Release -j 8

使用前须知

这是底层核心库，不提供高级模型运行时，需要基于其 C API 自行编写代码。
构建需要 CMake 和 C/C++ 编译器。

常见问题

ggml 是什么？: 一个纯 C/C++ 编写的机器学习张量库，力求简洁、可移植且高效，部署门槛低。 ggml 是一个用纯 C 和 C++ 编写的机器学习张量库，没有任何外部依赖。它提供运行模型所需的底层基础组件，包括张量运算和计算图，便于嵌入到其他程序中。
ggml 可以免费使用吗？用的什么许可证？: ggml 以 MIT 许可证开源。用于商业产品前，请先确认许可证条款。
ggml 还在维护吗？: 活跃维护中。ggml 最近一次提交是在 2026年11月4日。
ggml 适合用来做什么？: 将机器学习推理嵌入到 C/C++ 应用中，占用资源较少在边缘设备或嵌入式硬件上执行张量计算为 CPU 和加速器构建量化模型运行时在浏览器中通过 WebAssembly 运行机器学习任务
ggml 怎么安装和运行？: 克隆仓库: git clone https://github.com/ggml-org/ggml 进入项目目录: cd ggml 创建构建目录并使用 CMake 配置: mkdir build && cd build cmake .. 以 Release 模式构建库: cmake --build . --config Release -j 8
在哪里获取 ggml？: 源代码和安装说明在 GitHub 上：https://github.com/ggml-org/ggml

概要由 AI 根据项目 README 生成；GitHub 数据每日更新。