5달러짜리 ESP32-S3 칩에서 실행되며 Telegram으로 대화하는 순수 C 기반 개인용 AI 어시스턴트 펌웨어입니다.
espressif/esp-dl
ESP-PPQ를 통한 ONNX→.espdl 양자화 경로를 제공하는, Espressif ESP 시리즈 칩에서 AI 모델을 실행하기 위한 경량 신경망 추론 프레임워크입니다.
- 스타
- 1,191
- 포크
- 229
- 열린 이슈
- 47
- 마지막 커밋
- 3시간 전
어떤 프로젝트인가요?
ESP-DL은 Espressif ESP 시리즈 SoC용으로 개발된 신경망 추론 프레임워크입니다. 칩에서 AI 모델을 로드하고 디버깅하고 실행하는 API를 제공하며, 다른 Espressif SDK와 함께 ESP-IDF 프로젝트에서 사용하도록 설계되었습니다.
모델은 ESP-PPQ로 양자화합니다. ESP-PPQ는 ONNX 모델을 바로 읽을 수 있으며, PyTorch와 TensorFlow 모델은 ONNX를 거쳐 변환할 수 있습니다. 출력은 zero-copy 역직렬화를 지원하는 FlatBuffers 기반의 소형 `.espdl` 형식입니다. 양자화는 8비트, 16비트 또는 레이어별 혼합 w8a16을 지원하며, 정적 메모리 플래너는 지정한 RAM 용량에 따라 레이어를 내부 RAM이나 외부 메모리에 배치합니다.
저장소에는 MobileNetV2와 YOLO11 객체 감지 모델 등 사전 양자화된 모델을 ESP-IDF 컴포넌트로 패키징한 모델 모음도 포함되어 있습니다. 이와 함께 연산자 지원 목록과 예제도 제공합니다.
핵심 기능
- 01ESP-IDF를 통해 ESP32 시리즈 칩에서 `.espdl` 모델을 로드하고 실행합니다.
- 02ESP-PPQ로 ONNX, PyTorch, TensorFlow 모델을 양자화합니다.
- 03하나의 모델에서 8비트, 16비트 및 혼합 w8a16 양자화를 지원합니다.
- 04설정한 내부 RAM 용량에 따라 레이어를 메모리에 자동 배치합니다.
- 05Conv2D 및 DepthwiseConv2D 작업을 두 코어에 분산합니다.
- 06사전 양자화된 모델을 ESP-IDF 컴포넌트로 패키징한 모델 모음을 제공합니다.
활용 사례
- ESP32-S3 또는 ESP32-P4 기기에서 YOLO11 같은 객체 감지 모델을 실행합니다.
- ESP-IDF 기반 제품에 온디바이스 OCR이나 기타 비전 추론 기능을 추가합니다.
- Espressif 칩에 배포할 사용자 지정 ONNX 모델을 양자화합니다.
빠른 시작
- 1
ESP-IDF Programming Guide에 따라 ESP-IDF release/v5.3 이상을 설치합니다
- 2
PyTorch CPU 빌드를 설치합니다(README의 Linux 예시 참조).
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu - 3
자체 모델을 양자화하려면 ESP-PPQ를 설치합니다
pip install esp-ppq - 4
how-to-run-model 튜토리얼에 따라 보드에 모델을 로드하고 실행합니다
사용 전 알아둘 점
- Espressif ESP 시리즈 칩에서만 실행되며, ESP-IDF v5.3 이상이 필요합니다.
- 연산자 지원 표에 나열된 연산자만 사용할 수 있습니다. 지원되지 않는 연산자를 사용하려면 새 연산자를 구현해 기여해야 합니다.
- ESP-PPQ로 양자화하려면 Python 환경이 필요하며, 모델을 먼저 ONNX로 내보내야 합니다.
토픽
자주 묻는 질문
- esp-dl은(는) 무엇인가요?
- ESP-PPQ를 통한 ONNX→.espdl 양자화 경로를 제공하는, Espressif ESP 시리즈 칩에서 AI 모델을 실행하기 위한 경량 신경망 추론 프레임워크입니다. ESP-DL은 Espressif ESP 시리즈 SoC용으로 개발된 신경망 추론 프레임워크입니다. 칩에서 AI 모델을 로드하고 디버깅하고 실행하는 API를 제공하며, 다른 Espressif SDK와 함께 ESP-IDF 프로젝트에서 사용하도록 설계되었습니다.
- esp-dl은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- esp-dl은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- esp-dl은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. esp-dl의 마지막 커밋은 2026년 10월 22일입니다.
- esp-dl은(는) 어디에 사용할 수 있나요?
- ESP32-S3 또는 ESP32-P4 기기에서 YOLO11 같은 객체 감지 모델을 실행합니다. ESP-IDF 기반 제품에 온디바이스 OCR이나 기타 비전 추론 기능을 추가합니다. Espressif 칩에 배포할 사용자 지정 ONNX 모델을 양자화합니다.
- esp-dl는 어떻게 설치하나요?
- ESP-IDF Programming Guide에 따라 ESP-IDF release/v5.3 이상을 설치합니다 PyTorch CPU 빌드를 설치합니다(README의 Linux 예시 참조).: pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu 자체 모델을 양자화하려면 ESP-PPQ를 설치합니다: pip install esp-ppq how-to-run-model 튜토리얼에 따라 보드에 모델을 로드하고 실행합니다
- esp-dl은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/espressif/esp-dl
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
내보낸 모델을 휴대폰, 노트북, 브라우저, 마이크로컨트롤러에서 실행하는 PyTorch의 온디바이스 추론 스택입니다.
학습된 AI 모델을 RKNN 형식으로 변환하고, Python 및 C API를 통해 Rockchip NPU 보드에서 추론을 실행하는 SDK입니다.
MLIR 기반 컴파일러 및 런타임으로, ML 모델을 통합 IR로 낮춰 데이터센터부터 모바일 및 엣지 기기까지 배포할 수 있습니다.
2D/3D 그래픽, 입력, 오디오와 크로스 플랫폼 지원을 제공하고 외부 의존성이 없는 간단한 게임 개발용 C 라이브러리입니다.
ESP32를 카메라나 마이크 없이 Wi-Fi 신호 변화로 움직임을 감지하는 비공개 로컬 Wi-Fi 모션 센서로 만듭니다.