Repolode
espressif

espressif/esp-dl

Лёгкий фреймворк для инференса нейросетей на чипах Espressif ESP: квантование моделей в формат .espdl через ESP-PPQ.

Звёзды
1,191
Форки
229
Открытые issues
47
Последний коммит
3 часа назад

Что это?

ESP-DL — это фреймворк для инференса нейросетей, разработанный для SoC Espressif ESP. Он предоставляет API для загрузки, отладки и запуска AI-моделей на чипе и рассчитан на использование в проектах ESP-IDF вместе с другими SDK Espressif.

Модели квантируются с помощью ESP-PPQ: он напрямую загружает модели ONNX и может преобразовывать модели PyTorch и TensorFlow через ONNX. На выходе получается компактный формат `.espdl` на основе FlatBuffers с поддержкой десериализации без копирования. Доступно квантование до 8 или 16 бит, а также смешанный режим w8a16 для отдельных слоёв. Статический планировщик памяти размещает слои во внутренней RAM или внешней памяти с учётом указанного вами объёма RAM.

В репозитории также есть коллекция предварительно квантованных моделей, например MobileNetV2 и модели детекции YOLO11. Каждая модель упакована как компонент ESP-IDF. Кроме того, в репозитории приведены список поддерживаемых операторов и примеры.

Ключевые возможности

  • 01Загружает и запускает модели `.espdl` на чипах серии ESP32 через ESP-IDF.
  • 02Квантует модели ONNX, PyTorch и TensorFlow с помощью ESP-PPQ.
  • 03Поддерживает квантование до 8 и 16 бит, а также смешанный режим w8a16 в одной модели.
  • 04Автоматически размещает слои в памяти с учётом заданного вами объёма внутренней RAM.
  • 05Распределяет вычисления Conv2D и DepthwiseConv2D между обоими ядрами.
  • 06Включает коллекцию предварительно квантованных моделей, упакованных как компоненты ESP-IDF.

Сценарии использования

  • Запускать модели детекции объектов, например YOLO11, на устройствах ESP32-S3 или ESP32-P4.
  • Добавлять распознавание текста на устройстве и другие задачи компьютерного зрения в продукт на ESP-IDF.
  • Квантовать собственную модель ONNX для развёртывания на чипах Espressif.

Быстрый старт

  1. 1

    Установите ESP-IDF release/v5.3 или более позднюю версию, следуя руководству по программированию ESP-IDF

  2. 2

    Установите сборку PyTorch для CPU (пример для Linux приведён в README)

    pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu
  3. 3

    Установите ESP-PPQ, чтобы квантовать собственные модели

    pip install esp-ppq
  4. 4

    Следуйте руководству how-to-run-model, чтобы загрузить модель на плату и запустить её

Что важно знать

  • Работает только на чипах серии ESP от Espressif и требует ESP-IDF v5.3 или более поздней версии.
  • Можно использовать только операторы, перечисленные в таблице поддерживаемых операторов. Для использования неподдерживаемых операторов необходимо внести новые реализации.
  • Для квантования с помощью ESP-PPQ требуется среда Python, а модели необходимо предварительно экспортировать в ONNX.

Темы

Частые вопросы

Что такое esp-dl?
Лёгкий фреймворк для инференса нейросетей на чипах Espressif ESP: квантование моделей в формат .espdl через ESP-PPQ. ESP-DL — это фреймворк для инференса нейросетей, разработанный для SoC Espressif ESP. Он предоставляет API для загрузки, отладки и запуска AI-моделей на чипе и рассчитан на использование в проектах ESP-IDF вместе с другими SDK Espressif.
esp-dl можно использовать бесплатно? Какая у него лицензия?
esp-dl распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
esp-dl всё ещё поддерживается?
Активно поддерживается. Последний коммит в esp-dl — 22 окт. 2026 г..
Для чего можно использовать esp-dl?
Запускать модели детекции объектов, например YOLO11, на устройствах ESP32-S3 или ESP32-P4. Добавлять распознавание текста на устройстве и другие задачи компьютерного зрения в продукт на ESP-IDF. Квантовать собственную модель ONNX для развёртывания на чипах Espressif.
Как установить esp-dl?
Установите ESP-IDF release/v5.3 или более позднюю версию, следуя руководству по программированию ESP-IDF Установите сборку PyTorch для CPU (пример для Linux приведён в README): pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu Установите ESP-PPQ, чтобы квантовать собственные модели: pip install esp-ppq Следуйте руководству how-to-run-model, чтобы загрузить модель на плату и запустить её
Где скачать esp-dl?
Исходный код и инструкции по установке — на GitHub: https://github.com/espressif/esp-dl

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты