Прошивка персонального AI-ассистента на чистом C для $5-чипа ESP32-S3, который общается с вами через Telegram.
espressif/esp-dl
Лёгкий фреймворк для инференса нейросетей на чипах Espressif ESP: квантование моделей в формат .espdl через ESP-PPQ.
- Звёзды
- 1,191
- Форки
- 229
- Открытые issues
- 47
- Последний коммит
- 3 часа назад
Что это?
ESP-DL — это фреймворк для инференса нейросетей, разработанный для SoC Espressif ESP. Он предоставляет API для загрузки, отладки и запуска AI-моделей на чипе и рассчитан на использование в проектах ESP-IDF вместе с другими SDK Espressif.
Модели квантируются с помощью ESP-PPQ: он напрямую загружает модели ONNX и может преобразовывать модели PyTorch и TensorFlow через ONNX. На выходе получается компактный формат `.espdl` на основе FlatBuffers с поддержкой десериализации без копирования. Доступно квантование до 8 или 16 бит, а также смешанный режим w8a16 для отдельных слоёв. Статический планировщик памяти размещает слои во внутренней RAM или внешней памяти с учётом указанного вами объёма RAM.
В репозитории также есть коллекция предварительно квантованных моделей, например MobileNetV2 и модели детекции YOLO11. Каждая модель упакована как компонент ESP-IDF. Кроме того, в репозитории приведены список поддерживаемых операторов и примеры.
Ключевые возможности
- 01Загружает и запускает модели `.espdl` на чипах серии ESP32 через ESP-IDF.
- 02Квантует модели ONNX, PyTorch и TensorFlow с помощью ESP-PPQ.
- 03Поддерживает квантование до 8 и 16 бит, а также смешанный режим w8a16 в одной модели.
- 04Автоматически размещает слои в памяти с учётом заданного вами объёма внутренней RAM.
- 05Распределяет вычисления Conv2D и DepthwiseConv2D между обоими ядрами.
- 06Включает коллекцию предварительно квантованных моделей, упакованных как компоненты ESP-IDF.
Сценарии использования
- Запускать модели детекции объектов, например YOLO11, на устройствах ESP32-S3 или ESP32-P4.
- Добавлять распознавание текста на устройстве и другие задачи компьютерного зрения в продукт на ESP-IDF.
- Квантовать собственную модель ONNX для развёртывания на чипах Espressif.
Быстрый старт
- 1
Установите ESP-IDF release/v5.3 или более позднюю версию, следуя руководству по программированию ESP-IDF
- 2
Установите сборку PyTorch для CPU (пример для Linux приведён в README)
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu - 3
Установите ESP-PPQ, чтобы квантовать собственные модели
pip install esp-ppq - 4
Следуйте руководству how-to-run-model, чтобы загрузить модель на плату и запустить её
Что важно знать
- Работает только на чипах серии ESP от Espressif и требует ESP-IDF v5.3 или более поздней версии.
- Можно использовать только операторы, перечисленные в таблице поддерживаемых операторов. Для использования неподдерживаемых операторов необходимо внести новые реализации.
- Для квантования с помощью ESP-PPQ требуется среда Python, а модели необходимо предварительно экспортировать в ONNX.
Темы
Частые вопросы
- Что такое esp-dl?
- Лёгкий фреймворк для инференса нейросетей на чипах Espressif ESP: квантование моделей в формат .espdl через ESP-PPQ. ESP-DL — это фреймворк для инференса нейросетей, разработанный для SoC Espressif ESP. Он предоставляет API для загрузки, отладки и запуска AI-моделей на чипе и рассчитан на использование в проектах ESP-IDF вместе с другими SDK Espressif.
- esp-dl можно использовать бесплатно? Какая у него лицензия?
- esp-dl распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- esp-dl всё ещё поддерживается?
- Активно поддерживается. Последний коммит в esp-dl — 22 окт. 2026 г..
- Для чего можно использовать esp-dl?
- Запускать модели детекции объектов, например YOLO11, на устройствах ESP32-S3 или ESP32-P4. Добавлять распознавание текста на устройстве и другие задачи компьютерного зрения в продукт на ESP-IDF. Квантовать собственную модель ONNX для развёртывания на чипах Espressif.
- Как установить esp-dl?
- Установите ESP-IDF release/v5.3 или более позднюю версию, следуя руководству по программированию ESP-IDF Установите сборку PyTorch для CPU (пример для Linux приведён в README): pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu Установите ESP-PPQ, чтобы квантовать собственные модели: pip install esp-ppq Следуйте руководству how-to-run-model, чтобы загрузить модель на плату и запустить её
- Где скачать esp-dl?
- Исходный код и инструкции по установке — на GitHub: https://github.com/espressif/esp-dl
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Стек PyTorch для инференса на устройствах: запуск экспортированных моделей на телефонах, ноутбуках, в браузерах и на микроконтроллерах.
SDK для преобразования обученных моделей ИИ в формат RKNN и запуска инференса на платах с NPU Rockchip через Python API и C API.
Компилятор и среда выполнения на базе MLIR, преобразующие ML-модели в единое IR для развертывания в дата-центрах, на мобильных и периферийных устройствах.
Простая C-библиотека для создания видеоигр: 2D/3D-графика, ввод, звук и кроссплатформенность без внешних зависимостей.
Превращает ESP32 в локальный Wi-Fi-датчик движения, который обнаруживает движение по изменениям Wi-Fi-сигналов — без камеры и микрофона.