Repolode
apache

apache/tvm

开源机器学习编译框架,支持用 Python 定制编译流程,并将模型部署到多种硬件平台。

Star
13,853
Fork
4,018
未关闭 Issue
358
最近提交
12小时前

这是什么?

Apache TVM 是一个机器学习编译框架,可以把训练好的模型编译成适配不同硬件的可部署模块。项目以 Python 为主要开发方式,编译流程中的大部分变换都可以直接用 Python 定制,无需修改 C++ 核心代码。

项目采用跨层级设计:TensorIR 作为张量级表示,用于描述底层算子程序;Relax 作为图级表示,用于描述计算图。两者结合,使计算图优化与张量程序优化可以协同进行,也便于接入外部算子库。

TVM 同时可作为构建领域专用编译器的基础设施,LLM 是其中一个典型方向。项目支持 OpenCL、Vulkan、Metal、ROCm 等 GPU 后端,并涉及 JavaScript 等部署目标。

核心功能

  • 01以 Python 为主,可定制编译器各阶段的变换流程。
  • 02使用 TensorIR 表示张量级程序。
  • 03使用 Relax 表示计算图级结构。
  • 04可协同优化计算图、张量程序和外部算子库。
  • 05支持 OpenCL、Vulkan、Metal、ROCm 等 GPU 后端。

适用场景

  • 将训练好的深度学习模型部署到 GPU 或边缘设备等不同硬件上。
  • 为特定领域或模型类型构建定制的机器学习编译器。
  • 用 Python 研究新的张量程序优化方法。
  • 将模型编译后在浏览器或 JavaScript 环境中运行。

快速上手

  1. 1

    在 TVM 文档网站上阅读安装说明

  2. 2

    学习 Getting Started with TVM 教程

标签

常见问题

tvm 是什么?
开源机器学习编译框架,支持用 Python 定制编译流程,并将模型部署到多种硬件平台。 Apache TVM 是一个机器学习编译框架,可以把训练好的模型编译成适配不同硬件的可部署模块。项目以 Python 为主要开发方式,编译流程中的大部分变换都可以直接用 Python 定制,无需修改 C++ 核心代码。
tvm 可以免费使用吗?用的什么许可证?
tvm 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
tvm 还在维护吗?
活跃维护中。tvm 最近一次提交是在 2026年10月21日。
tvm 适合用来做什么?
将训练好的深度学习模型部署到 GPU 或边缘设备等不同硬件上。 为特定领域或模型类型构建定制的机器学习编译器。 用 Python 研究新的张量程序优化方法。 将模型编译后在浏览器或 JavaScript 环境中运行。
tvm 怎么安装和运行?
在 TVM 文档网站上阅读安装说明 学习 Getting Started with TVM 教程
在哪里获取 tvm?
源代码和安装说明在 GitHub 上:https://github.com/apache/tvm

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目