Компилятор, который преобразует графы нейросетей ONNX через MLIR в код с минимальными зависимостями во время выполнения.
triton-lang/triton
Язык и компилятор для написания эффективных пользовательских GPU-ядер глубокого обучения на Python-подобном коде — продуктивнее, чем на CUDA.
Open source альтернатива:CUDA
- Звёзды
- 20,529
- Форки
- 3,376
- Открытые issues
- 1,372
- Последний коммит
- 6 часов назад
Что это?
Triton — это язык и компилятор для написания пользовательских примитивов глубокого обучения — низкоуровневых ядер, выполняемых на GPU. Он позволяет разработчикам создавать быстрые ядра продуктивнее, чем на CUDA, сохраняя при этом больше гибкости, чем другие предметно-ориентированные языки.
Проект можно установить через pip: доступны бинарные пакеты для CPython 3.10–3.14. Также его можно собрать из исходников, используя собственную или готовую сборку LLVM. Triton поддерживает GPU NVIDIA (Compute Capability 8.0+) и AMD (ROCm 6.2+); поддержка CPU пока находится в разработке. Поддерживается Linux.
В репозитории также есть интерпретатор Triton, который выполняет ядра без GPU и позволяет использовать точки останова Python внутри кода ядра. Набор параметров окружения позволяет получать дампы IR на каждом этапе MLIR- и LLVM-компиляции, переопределять ядра, генерировать воспроизводимые примеры и выводить результаты автоподбора параметров для отладки и оптимизации производительности.
Ключевые возможности
- 01Написание GPU-ядер на языке на основе Python с абстракциями на уровне тайлов.
- 02Выполнение ядер на GPU NVIDIA и AMD.
- 03Интерпретатор для выполнения ядер без GPU с поддержкой точек останова Python.
- 04Дампы IR на каждом этапе компиляции MLIR и LLVM для анализа.
- 05Поддержка переопределения ядер и внешних плагинов компилятора.
Сценарии использования
- Написание пользовательских объединённых операторов или ядер attention для моделей глубокого обучения.
- Оптимизация GPU-ядер с большей продуктивностью, чем при написании CUDA вручную.
- Отладка логики ядер на компьютере без GPU с помощью интерпретатора.
- Изучение или расширение конвейера компилятора на основе MLIR для генерации GPU-кода.
Быстрый старт
- 1
Установите последнюю стабильную версию из pip
pip install triton - 2
Или установите из исходного кода: клонируйте репозиторий
git clone https://github.com/triton-lang/triton.git - 3
Установите зависимости для сборки из дерева исходного кода
pip install -r python/requirements.txt - 4
Установите Triton в редактируемом режиме
pip install -e .
Что важно знать
- Для сборки из исходного кода необходимо настроить локальный набор инструментов LLVM или загрузить предварительно собранную версию LLVM во время сборки.
- Для запуска набора тестов GPU требуется GPU, однако режим интерпретатора работает и без него.
В подборках
Темы
Частые вопросы
- Что такое triton?
- Язык и компилятор для написания эффективных пользовательских GPU-ядер глубокого обучения на Python-подобном коде — продуктивнее, чем на CUDA. Triton — это язык и компилятор для написания пользовательских примитивов глубокого обучения — низкоуровневых ядер, выполняемых на GPU. Он позволяет разработчикам создавать быстрые ядра продуктивнее, чем на CUDA, сохраняя при этом больше гибкости, чем другие предметно-ориентированные языки.
- triton можно использовать бесплатно? Какая у него лицензия?
- triton распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- triton всё ещё поддерживается?
- Активно поддерживается. Последний коммит в triton — 6 нояб. 2026 г..
- Для чего можно использовать triton?
- Написание пользовательских объединённых операторов или ядер attention для моделей глубокого обучения. Оптимизация GPU-ядер с большей продуктивностью, чем при написании CUDA вручную. Отладка логики ядер на компьютере без GPU с помощью интерпретатора. Изучение или расширение конвейера компилятора на основе MLIR для генерации GPU-кода.
- Как установить triton?
- Установите последнюю стабильную версию из pip: pip install triton Или установите из исходного кода: клонируйте репозиторий: git clone https://github.com/triton-lang/triton.git Установите зависимости для сборки из дерева исходного кода: pip install -r python/requirements.txt Установите Triton в редактируемом режиме: pip install -e .
- Где скачать triton?
- Исходный код и инструкции по установке — на GitHub: https://github.com/triton-lang/triton
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Компилятор и среда выполнения на базе MLIR, преобразующие ML-модели в единое IR для развертывания в дата-центрах, на мобильных и периферийных устройствах.
Python-фреймворк, компилирующий глубокие нейросети в код CUDA/HIP C++ с fp16 для быстрого инференса на GPU NVIDIA и AMD.
JIT-компилятор с открытым исходным кодом, учитывающий NumPy и преобразующий числовые функции Python в быстрый машинный код с помощью LLVM.
Открытая книга и коллекция кода с конспектами по современному CUDA и более чем 200 ядрами для HGEMM, GEMM с FP8/FP4 и Flash-Attention.
AutoRT — инструмент-компилятор для создания, тестирования производительности и оптимизации операторов PyTorch под собственные ускорители.