ggml-org/ggml

これは何？

主な機能

• 01外部依存のない、純粋なC/C++実装
• 02x86、ARM、RISC-V向けのSIMD最適化カーネル
• 03CPU、GPU、NPU、ブラウザー向けバックエンド
• 042～8ビットの整数量子化とMXFP4、NVFP4形式に対応
• 05実行時のメモリ割り当てなし

ユースケース

• 軽量な形でC/C++アプリケーションにML推論を組み込む
• エッジデバイスや組み込みハードウェアでテンソル演算を実行する
• CPUやアクセラレーター向けの量子化モデルランタイムを構築する
• ブラウザー上のWebAssemblyでMLワークロードを実行する

クイックスタート

1. 1

   リポジトリをクローンする

   git clone https://github.com/ggml-org/ggml
2. 2

   プロジェクトディレクトリに移動する

   cd ggml
3. 3

   ビルドディレクトリを作成し、CMakeで設定する

   mkdir build && cd build cmake ..
4. 4

   Releaseモードでライブラリをビルドする

   cmake --build . --config Release -j 8

使う前に知っておきたいこと

• !コアライブラリのみで、高レベルのモデルランタイムは含まれていません。C APIを使って独自のコードを書く必要があります。
• !ビルドにはCMakeとC/C++コンパイラが必要です。

トピック

よくある質問

ggml とは？

シンプルで移植性と効率性に優れ、最小限のセットアップで使える、機械学習向けの純粋なC/C++テンソルライブラリ。 ggmlは、外部依存のない、純粋なCおよびC++で書かれた機械学習向けテンソルライブラリです。テンソル演算や計算グラフなど、MLモデルの実行に必要な低レベルの構成要素を提供し、ほかのプログラムに簡単に組み込めるよう設計されています。

ggml は無料で使えますか？ライセンスは？

ggml は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

ggml は今もメンテナンスされていますか？

活発にメンテナンス中。ggml の最終コミットは 2026年11月4日 です。

ggml は何に使えますか？

軽量な形でC/C++アプリケーションにML推論を組み込む エッジデバイスや組み込みハードウェアでテンソル演算を実行する CPUやアクセラレーター向けの量子化モデルランタイムを構築する ブラウザー上のWebAssemblyでMLワークロードを実行する

ggml のインストール方法は？

リポジトリをクローンする: git clone https://github.com/ggml-org/ggml プロジェクトディレクトリに移動する: cd ggml ビルドディレクトリを作成し、CMakeで設定する: mkdir build && cd build cmake .. Releaseモードでライブラリをビルドする: cmake --build . --config Release -j 8

ggml はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/ggml-org/ggml