Repolode
投稿する
apache

apache/tvm

Pythonでコンパイラパイプラインをカスタマイズし、多様なハードウェアにモデルをデプロイできるオープンな機械学習コンパイルフレームワーク。

GitHub で見る公式サイト
スター
13,853
フォーク
4,018
未解決の Issue
358
最終コミット
12 時間前

これは何？

Apache TVMは、学習済みモデルを受け取り、さまざまなハードウェア向けにデプロイ可能なモジュールへコンパイルする機械学習コンパイラフレームワークです。Pythonを中心に開発されているため、C++のコアを変更せずに、コンパイラパイプラインの大半の変換処理をPythonでカスタマイズできます。

TVMは複数のレベルを横断する設計を採用しています。TensorIRは低レベルの演算子プログラムを表すテンソルレベルの中間表現で、Relaxは計算グラフを表すグラフレベルの中間表現です。これにより、グラフ最適化とテンソルプログラムの最適化を組み合わせて適用でき、外部ライブラリとの統合も可能です。

TVMは、LLMを一例として、ドメイン特化型コンパイラを構築するための基盤としても位置付けられています。トピックからは、CUDA関連のGPUスタック、OpenCL、Vulkan、Metal、ROCm、WebAssembly系のJavaScriptターゲットなどのバックエンドをサポートしていることがうかがえます。

主な機能

  • 01Pythonを中心とした、コンパイラ変換パイプラインのカスタマイズ。
  • 02テンソルレベルのプログラム表現に使うTensorIR。
  • 03計算グラフのグラフレベル表現に使うRelax。
  • 04グラフ、テンソルプログラム、外部ライブラリを組み合わせた最適化。
  • 05OpenCL、Vulkan、Metal、ROCmなどのGPUバックエンドをターゲットにできる。

ユースケース

  • 学習済み深層学習モデルを、GPUやエッジデバイスなど多様なハードウェアにデプロイする。
  • 特定のドメインやモデル群に特化したMLコンパイラを構築する。
  • Pythonで新しいテンソルプログラム最適化を研究する。
  • ブラウザーやJavaScript環境で実行するモデルをコンパイルする。

クイックスタート

  1. 1

    TVMのドキュメントサイトでインストール手順を確認する

  2. 2

    TVM入門チュートリアルに沿って進める

トピック

#compiler#deep-learning#machine-learning#gpu#tensor#performance#opencl#vulkan#javascript#metal

よくある質問

tvm とは？
Pythonでコンパイラパイプラインをカスタマイズし、多様なハードウェアにモデルをデプロイできるオープンな機械学習コンパイルフレームワーク。 Apache TVMは、学習済みモデルを受け取り、さまざまなハードウェア向けにデプロイ可能なモジュールへコンパイルする機械学習コンパイラフレームワークです。Pythonを中心に開発されているため、C++のコアを変更せずに、コンパイラパイプラインの大半の変換処理をPythonでカスタマイズできます。
tvm は無料で使えますか？ライセンスは？
tvm は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
tvm は今もメンテナンスされていますか？
活発にメンテナンス中。tvm の最終コミットは 2026年10月21日 です。
tvm は何に使えますか？
学習済み深層学習モデルを、GPUやエッジデバイスなど多様なハードウェアにデプロイする。 特定のドメインやモデル群に特化したMLコンパイラを構築する。 Pythonで新しいテンソルプログラム最適化を研究する。 ブラウザーやJavaScript環境で実行するモデルをコンパイルする。
tvm のインストール方法は？
TVMのドキュメントサイトでインストール手順を確認する TVM入門チュートリアルに沿って進める
tvm はどこで入手できますか？
ソースコードとインストール手順は GitHub にあります：https://github.com/apache/tvm

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト