Независимый от движка фреймворк глубокого обучения для Java, позволяющий создавать, обучать и запускать модели через нативный Java API.
fastmachinelearning/hls4ml
Пакет Python для преобразования нейросетей из Keras, PyTorch и ONNX в код HLS для запуска инференса на FPGA.
- Звёзды
- 2,200
- Форки
- 615
- Открытые issues
- 62
- Последний коммит
- 3 дня назад
Что это?
hls4ml создаёт прошивки для FPGA, переводя модели машинного обучения в код high-level synthesis (HLS). Пользователь выбирает обученную модель в одном из распространённых фреймворков, генерирует проект HLS с помощью файла конфигурации, а затем собирает его поддерживаемой цепочкой инструментов вендора, чтобы получить аппаратную реализацию.
Проект предназначен для инференса со сверхнизкой задержкой. Изначально он разрабатывался для физики высоких энергий, в том числе для триггерных систем L1 Большого адронного коллайдера, а теперь применяется и в таких областях, как управление квантовыми вычислениями, контуры обратной связи в термоядерных установках, спутниковый мониторинг окружающей среды и обработка биомедицинских сигналов.
Помимо Vivado HLS, пакет поддерживает Vitis HLS, Intel HLS, Catapult HLS и Altera HLS IP Gen в качестве бэкендов для сборки. Его можно установить из PyPI или conda-forge; также доступен дополнительный компонент для профилирования.
Ключевые возможности
- 01Преобразует модели Keras, PyTorch и ONNX в проекты HLS.
- 02Поддерживает несколько бэкендов HLS, включая Vivado, Vitis, Intel, Catapult и Altera.
- 03Позволяет настраивать генерируемый проект с помощью файла конфигурации.
- 04Предоставляет этап сборки для синтеза проекта и средство чтения отчётов с результатами.
- 05Устанавливается через pip или conda-forge.
Сценарии использования
- Развёртывание нейросети для принятия решений в реальном времени триггерными системами на FPGA.
- Запуск моделей управления или обработки сигналов с низкой задержкой на встраиваемых FPGA-платах.
- Оценка того, как обученная модель размещается на ресурсах FPGA, до начала разработки аппаратной реализации.
Быстрый старт
- 1
Установите hls4ml из PyPI
pip install hls4ml - 2
Получите пример модели Keras и её конфигурацию
import hls4ml - 3
Преобразуйте модель в проект HLS
hls_model = hls4ml.converters.keras_v2_to_hls(config) - 4
Соберите проект с помощью Vivado HLS или другого поддерживаемого инструмента HLS
hls_model.build()
Что важно знать
- Для сборки сгенерированной прошивки требуется отдельная цепочка инструментов HLS, например Vivado HLS, Vitis HLS или Intel HLS.
- Предназначено только для инференса на FPGA, а не для обучения или выполнения моделей общего назначения.
Темы
Частые вопросы
- Что такое hls4ml?
- Пакет Python для преобразования нейросетей из Keras, PyTorch и ONNX в код HLS для запуска инференса на FPGA. hls4ml создаёт прошивки для FPGA, переводя модели машинного обучения в код high-level synthesis (HLS). Пользователь выбирает обученную модель в одном из распространённых фреймворков, генерирует проект HLS с помощью файла конфигурации, а затем собирает его поддерживаемой цепочкой инструментов вендора, чтобы получить аппаратную реализацию.
- hls4ml можно использовать бесплатно? Какая у него лицензия?
- hls4ml распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- hls4ml всё ещё поддерживается?
- Активно поддерживается. Последний коммит в hls4ml — 4 нояб. 2026 г..
- Для чего можно использовать hls4ml?
- Развёртывание нейросети для принятия решений в реальном времени триггерными системами на FPGA. Запуск моделей управления или обработки сигналов с низкой задержкой на встраиваемых FPGA-платах. Оценка того, как обученная модель размещается на ресурсах FPGA, до начала разработки аппаратной реализации.
- Как установить hls4ml?
- Установите hls4ml из PyPI: pip install hls4ml Получите пример модели Keras и её конфигурацию: import hls4ml Преобразуйте модель в проект HLS: hls_model = hls4ml.converters.keras_v2_to_hls(config) Соберите проект с помощью Vivado HLS или другого поддерживаемого инструмента HLS: hls_model.build()
- Где скачать hls4ml?
- Исходный код и инструкции по установке — на GitHub: https://github.com/fastmachinelearning/hls4ml
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Высокопроизводительный фреймворк на C++ для инференса моделей глубокого обучения на мобильных, встраиваемых и настольных устройствах.
Компилятор и среда выполнения на базе MLIR, преобразующие ML-модели в единое IR для развертывания в дата-центрах, на мобильных и периферийных устройствах.
Автономный движок инференса на Rust для запуска моделей ONNX и NNEF на CPU, Apple Metal, NVIDIA CUDA и WebAssembly.
Просмотрщик моделей нейросетей, глубокого и машинного обучения с поддержкой ONNX, TensorFlow, PyTorch, Core ML и многих других форматов.
Кроссплатформенный ускоритель для запуска ML-моделей, экспортированных в формат ONNX, с поддержкой обучения с помощью PyTorch-скриптов.