一个极简的深度学习框架,提供类 PyTorch 的 Tensor API、自动求导、编译器,并支持多种加速器后端。
3.4万4382PythonMIT更新于 昨天
开源机器学习编译框架,支持用 Python 定制编译流程,并将模型部署到多种硬件平台。
Apache TVM 是一个机器学习编译框架,可以把训练好的模型编译成适配不同硬件的可部署模块。项目以 Python 为主要开发方式,编译流程中的大部分变换都可以直接用 Python 定制,无需修改 C++ 核心代码。
项目采用跨层级设计:TensorIR 作为张量级表示,用于描述底层算子程序;Relax 作为图级表示,用于描述计算图。两者结合,使计算图优化与张量程序优化可以协同进行,也便于接入外部算子库。
TVM 同时可作为构建领域专用编译器的基础设施,LLM 是其中一个典型方向。项目支持 OpenCL、Vulkan、Metal、ROCm 等 GPU 后端,并涉及 JavaScript 等部署目标。
在 TVM 文档网站上阅读安装说明
学习 Getting Started with TVM 教程
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
一个极简的深度学习框架,提供类 PyTorch 的 Tensor API、自动求导、编译器,并支持多种加速器后端。
基于 Python 的深度学习框架,提供 GPU 加速的张量计算和基于自动求导的动态神经网络。
一个用 Rust 编写的张量库与深度学习框架,支持训练和推理,可运行在多种 GPU 与 CPU 后端上。
端到端开源机器学习平台,提供 Python 和 C++ 接口,用于构建和部署 ML 模型。
基于 MLIR 的机器学习编译器与运行时,将模型统一降级到中间表示,覆盖数据中心到移动与边缘设备。
MLX 的 Swift 接口,让开发者在 Apple 芯片上用 Swift 进行机器学习研究与实验。