Repolode
espressif

espressif/esp-dl

ESP-PPQ를 통한 ONNX→.espdl 양자화 경로를 제공하는, Espressif ESP 시리즈 칩에서 AI 모델을 실행하기 위한 경량 신경망 추론 프레임워크입니다.

스타
1,191
포크
229
열린 이슈
47
마지막 커밋
3시간 전

어떤 프로젝트인가요?

ESP-DL은 Espressif ESP 시리즈 SoC용으로 개발된 신경망 추론 프레임워크입니다. 칩에서 AI 모델을 로드하고 디버깅하고 실행하는 API를 제공하며, 다른 Espressif SDK와 함께 ESP-IDF 프로젝트에서 사용하도록 설계되었습니다.

모델은 ESP-PPQ로 양자화합니다. ESP-PPQ는 ONNX 모델을 바로 읽을 수 있으며, PyTorch와 TensorFlow 모델은 ONNX를 거쳐 변환할 수 있습니다. 출력은 zero-copy 역직렬화를 지원하는 FlatBuffers 기반의 소형 `.espdl` 형식입니다. 양자화는 8비트, 16비트 또는 레이어별 혼합 w8a16을 지원하며, 정적 메모리 플래너는 지정한 RAM 용량에 따라 레이어를 내부 RAM이나 외부 메모리에 배치합니다.

저장소에는 MobileNetV2와 YOLO11 객체 감지 모델 등 사전 양자화된 모델을 ESP-IDF 컴포넌트로 패키징한 모델 모음도 포함되어 있습니다. 이와 함께 연산자 지원 목록과 예제도 제공합니다.

핵심 기능

  • 01ESP-IDF를 통해 ESP32 시리즈 칩에서 `.espdl` 모델을 로드하고 실행합니다.
  • 02ESP-PPQ로 ONNX, PyTorch, TensorFlow 모델을 양자화합니다.
  • 03하나의 모델에서 8비트, 16비트 및 혼합 w8a16 양자화를 지원합니다.
  • 04설정한 내부 RAM 용량에 따라 레이어를 메모리에 자동 배치합니다.
  • 05Conv2D 및 DepthwiseConv2D 작업을 두 코어에 분산합니다.
  • 06사전 양자화된 모델을 ESP-IDF 컴포넌트로 패키징한 모델 모음을 제공합니다.

활용 사례

  • ESP32-S3 또는 ESP32-P4 기기에서 YOLO11 같은 객체 감지 모델을 실행합니다.
  • ESP-IDF 기반 제품에 온디바이스 OCR이나 기타 비전 추론 기능을 추가합니다.
  • Espressif 칩에 배포할 사용자 지정 ONNX 모델을 양자화합니다.

빠른 시작

  1. 1

    ESP-IDF Programming Guide에 따라 ESP-IDF release/v5.3 이상을 설치합니다

  2. 2

    PyTorch CPU 빌드를 설치합니다(README의 Linux 예시 참조).

    pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu
  3. 3

    자체 모델을 양자화하려면 ESP-PPQ를 설치합니다

    pip install esp-ppq
  4. 4

    how-to-run-model 튜토리얼에 따라 보드에 모델을 로드하고 실행합니다

사용 전 알아둘 점

  • Espressif ESP 시리즈 칩에서만 실행되며, ESP-IDF v5.3 이상이 필요합니다.
  • 연산자 지원 표에 나열된 연산자만 사용할 수 있습니다. 지원되지 않는 연산자를 사용하려면 새 연산자를 구현해 기여해야 합니다.
  • ESP-PPQ로 양자화하려면 Python 환경이 필요하며, 모델을 먼저 ONNX로 내보내야 합니다.

토픽

자주 묻는 질문

esp-dl은(는) 무엇인가요?
ESP-PPQ를 통한 ONNX→.espdl 양자화 경로를 제공하는, Espressif ESP 시리즈 칩에서 AI 모델을 실행하기 위한 경량 신경망 추론 프레임워크입니다. ESP-DL은 Espressif ESP 시리즈 SoC용으로 개발된 신경망 추론 프레임워크입니다. 칩에서 AI 모델을 로드하고 디버깅하고 실행하는 API를 제공하며, 다른 Espressif SDK와 함께 ESP-IDF 프로젝트에서 사용하도록 설계되었습니다.
esp-dl은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
esp-dl은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
esp-dl은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. esp-dl의 마지막 커밋은 2026년 10월 22일입니다.
esp-dl은(는) 어디에 사용할 수 있나요?
ESP32-S3 또는 ESP32-P4 기기에서 YOLO11 같은 객체 감지 모델을 실행합니다. ESP-IDF 기반 제품에 온디바이스 OCR이나 기타 비전 추론 기능을 추가합니다. Espressif 칩에 배포할 사용자 지정 ONNX 모델을 양자화합니다.
esp-dl는 어떻게 설치하나요?
ESP-IDF Programming Guide에 따라 ESP-IDF release/v5.3 이상을 설치합니다 PyTorch CPU 빌드를 설치합니다(README의 Linux 예시 참조).: pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu 자체 모델을 양자화하려면 ESP-PPQ를 설치합니다: pip install esp-ppq how-to-run-model 튜토리얼에 따라 보드에 모델을 로드하고 실행합니다
esp-dl은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/espressif/esp-dl

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트