OpenAI互換APIで大規模言語モデルを実行・提供する、高速でメモリ効率に優れたライブラリ兼サーバー。
iree-org/iree
MLIRベースのコンパイラとランタイム。MLモデルを統一IRに変換し、データセンターからモバイル・エッジデバイスまで展開できます。
- スター
- 3,986
- フォーク
- 1,038
- 未解決の Issue
- 1,721
- 最終コミット
- 3 時間前
これは何?
IREEは、MLIRをベースに構築された、機械学習モデル向けのエンドツーエンドのコンパイラ兼ランタイムです。モデルを統一された中間表現に変換し、データセンター規模のワークロードから、モバイルやエッジ環境の制約に合わせたデプロイまで対応します。
プロジェクトのトピックから、PyTorch、TensorFlow、JAX、ONNXのモデルを入力として扱い、CUDA、ROCm、Vulkan、SPIR-Vなどのバックエンドをターゲットにできることが分かります。名称はIntermediate Representation Execution Environmentの略です。
ライセンスはLLVM exceptions付きのApache 2.0です。PyPIではPythonパッケージ(iree-base-compilerとiree-base-runtime)を公開しており、GitHubではリリースノートを確認できます。
主な機能
- 01PyTorch、TensorFlow、JAX、ONNXなどのフレームワークのMLモデルを、MLIRベースの統一IRに変換します。
- 02CUDA、ROCm、VulkanなどのGPU・アクセラレータ向けバックエンドをターゲットにできます。
- 03ポータブルなGPU実行向けにSPIR-Vコードを生成します。
- 04コンパイル済みモデルを実行するランタイムを提供します。
- 05コンパイラとランタイムのPythonパッケージを提供します。
ユースケース
- 1つのツールチェーンで、学習済みモデルをデータセンターのGPUやモバイル・エッジデバイスにデプロイする。
- ML推論の対象として、VulkanまたはROCm対応ハードウェアを利用する。
- MLIRを使い、MLワークロード向けのコンパイラ最適化を研究する。
クイックスタート
- 1
ユーザーガイドとソースからのビルド手順については、プロジェクトのウェブサイトを開いてください
使う前に知っておきたいこと
- READMEには直接実行できるインストールコマンドが記載されていないため、ウェブサイトのガイドに従ってソースからビルドする必要があります。
- コンパイラとランタイムのスタックであるため、一般的なライブラリよりも使い始めるまでに手間がかかります。
トピック
よくある質問
- iree とは?
- MLIRベースのコンパイラとランタイム。MLモデルを統一IRに変換し、データセンターからモバイル・エッジデバイスまで展開できます。 IREEは、MLIRをベースに構築された、機械学習モデル向けのエンドツーエンドのコンパイラ兼ランタイムです。モデルを統一された中間表現に変換し、データセンター規模のワークロードから、モバイルやエッジ環境の制約に合わせたデプロイまで対応します。
- iree は無料で使えますか?ライセンスは?
- iree は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- iree は今もメンテナンスされていますか?
- 活発にメンテナンス中。iree の最終コミットは 2026年10月21日 です。
- iree は何に使えますか?
- 1つのツールチェーンで、学習済みモデルをデータセンターのGPUやモバイル・エッジデバイスにデプロイする。 ML推論の対象として、VulkanまたはROCm対応ハードウェアを利用する。 MLIRを使い、MLワークロード向けのコンパイラ最適化を研究する。
- iree のインストール方法は?
- ユーザーガイドとソースからのビルド手順については、プロジェクトのウェブサイトを開いてください
- iree はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/iree-org/iree
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
SGLangは、多様なGPU、TPU、CPU環境で大規模言語モデル、ビジョン言語モデル、拡散モデルを提供するオープンソース推論フレームワークです。
PyTorch風のテンソルAPI、autograd、コンパイラを備え、多数のアクセラレータバックエンドに対応する最小構成のディープラーニングフレームワーク。
ONNX Runtimeを使い、サーバーなしでHugging Face TransformersモデルをブラウザーやJavaScriptランタイム上で実行できます。
CUDA、ROCm、Metal、Vulkan、WebGPU、CPUバックエンドでの学習と推論に対応した、Rust製テンソルライブラリ兼ディープラーニングフレームワーク。
コンシューマー向けGPUやCPUでDeepSeek-V4やQwen3.6などの大規模なオープンウェイトモデルを動かす、エッジネイティブなMoE推論エンジン。