Repolode
Предложить
apache

apache/tvm

Открытый фреймворк для компиляции моделей машинного обучения: он позволяет настраивать конвейеры компилятора на Python и развёртывать модели на разных аппаратных платформах.

Открыть на GitHubСайт
Звёзды
13,853
Форки
4,018
Открытые issues
358
Последний коммит
12 часов назад

Что это?

Apache TVM — фреймворк-компилятор для машинного обучения, который преобразует обученные модели в модули для развёртывания на разных аппаратных платформах. Разработка ведётся в первую очередь на Python: большинство преобразований в конвейере компилятора можно настраивать на Python, не меняя ядро на C++.

В проекте используется многоуровневая архитектура: TensorIR — представление на уровне тензоров для низкоуровневых операторных программ, а Relax — представление на уровне графов вычислений. Это позволяет одновременно применять оптимизации графов и тензорных программ, а также интегрироваться с внешними библиотеками.

TVM также позиционируется как инфраструктура для создания предметно-ориентированных компиляторов; LLM упоминаются как один из примеров. Темы проекта указывают на поддержку таких бэкендов, как GPU-стек на базе CUDA, OpenCL, Vulkan, Metal, ROCm и целей в стиле WebAssembly для JavaScript.

Ключевые возможности

  • 01Настройка конвейеров преобразований компилятора с приоритетом Python.
  • 02TensorIR для представления программ на уровне тензоров.
  • 03Relax для представления графов вычислений.
  • 04Совместная оптимизация графов и тензорных программ, а также интеграция с внешними библиотеками.
  • 05Поддержка GPU-бэкендов, включая OpenCL, Vulkan, Metal и ROCm.

Сценарии использования

  • Развёртывание обученных моделей глубокого обучения на разном оборудовании, например GPU или периферийных устройствах.
  • Создание специализированного ML-компилятора для определённой предметной области или семейства моделей.
  • Исследование новых оптимизаций тензорных программ на Python.
  • Компиляция моделей для запуска в браузерах или средах JavaScript.

Быстрый старт

  1. 1

    Ознакомьтесь с инструкциями по установке на сайте документации TVM

  2. 2

    Пройдите руководство «Начало работы с TVM»

Темы

#compiler#deep-learning#machine-learning#gpu#tensor#performance#opencl#vulkan#javascript#metal

Частые вопросы

Что такое tvm?
Открытый фреймворк для компиляции моделей машинного обучения: он позволяет настраивать конвейеры компилятора на Python и развёртывать модели на разных аппаратных платформах. Apache TVM — фреймворк-компилятор для машинного обучения, который преобразует обученные модели в модули для развёртывания на разных аппаратных платформах. Разработка ведётся в первую очередь на Python: большинство преобразований в конвейере компилятора можно настраивать на Python, не меняя ядро на C++.
tvm можно использовать бесплатно? Какая у него лицензия?
tvm распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
tvm всё ещё поддерживается?
Активно поддерживается. Последний коммит в tvm — 21 окт. 2026 г..
Для чего можно использовать tvm?
Развёртывание обученных моделей глубокого обучения на разном оборудовании, например GPU или периферийных устройствах. Создание специализированного ML-компилятора для определённой предметной области или семейства моделей. Исследование новых оптимизаций тензорных программ на Python. Компиляция моделей для запуска в браузерах или средах JavaScript.
Как установить tvm?
Ознакомьтесь с инструкциями по установке на сайте документации TVM Пройдите руководство «Начало работы с TVM»
Где скачать tvm?
Исходный код и инструкции по установке — на GitHub: https://github.com/apache/tvm

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты