Ultralytics YOLOv5는 객체 탐지, 인스턴스 분할, 이미지 분류를 지원하며 학습과 내보내기를 제공하는 PyTorch 기반 컴퓨터 비전 툴킷입니다.
Tencent/ncnn
모바일, 임베디드 및 데스크톱 기기에서 딥러닝 모델을 실행하기 위한 고성능 C++ 신경망 추론 프레임워크입니다.
대체할 수 있는 제품:TensorFlow Lite
Core ML
- 스타
- 23,985
- 포크
- 4,532
- 열린 이슈
- 1,268
- 마지막 커밋
- 어제
어떤 프로젝트인가요?
ncnn은 학습된 모델을 휴대폰, PC, 브라우저 및 엣지 기기에 배포하기 위한 C++ 신경망 추론 프레임워크입니다. 서드파티 런타임 의존성이 없으며, ARM NEON 최적화를 적용한 CPU나 Vulkan GPU에서 실행됩니다.
PyTorch 및 ONNX 모델은 pnnx 도구로 ncnn의 .param 및 .bin 형식으로 변환한 뒤 C++, C 또는 Python API를 통해 불러옵니다. 멀티 입력·멀티 출력 그래프, fp16 및 int8 양자화 추론, 커스텀 레이어를 지원합니다. 빌드 안내는 Linux, Windows, macOS, Android, iOS, HarmonyOS, WebAssembly 및 여러 임베디드 보드를 다룹니다.
문서에 따르면 ncnn은 QQ, Qzone, WeChat 등 Tencent의 여러 애플리케이션에서 사용됩니다. 또한 YOLO와 MobileNet 같은 전통적인 CNN 모델 예제와 LLM 및 이미지 생성 데모 같은 최신 워크로드 예제도 제공합니다.
핵심 기능
- 01ARM NEON 최적화와 멀티코어 스케줄링을 적용한 CPU 또는 Vulkan GPU에서 실행됩니다.
- 02서드파티 런타임 의존성이 없습니다.
- 03pnnx 도구로 PyTorch 및 ONNX 모델을 변환합니다.
- 04C++, C 및 Python API를 제공합니다.
- 05fp16 및 int8 양자화 추론과 커스텀 레이어를 지원합니다.
- 06Android, iOS, HarmonyOS, Windows, Linux, macOS 및 WebAssembly용으로 빌드할 수 있습니다.
활용 사례
- 모바일 앱에서 객체 탐지 또는 얼굴 탐지 모델을 실행합니다.
- 무거운 런타임 없이 PyTorch 모델을 임베디드 보드에 배포합니다.
- WebAssembly를 통해 브라우저에서 신경망 추론을 실행합니다.
- C++ 데스크톱 애플리케이션에 AI 기능을 추가합니다.
빠른 시작
- 1
PyTorch 환경에 pnnx를 설치합니다
pip3 install pnnx - 2
pnnx.export로 PyTorch 모델을 ncnn으로 내보냅니다
- 3
생성된 모델을 불러와 ncnn C++ 또는 Python API로 추론을 실행합니다
사용 전 알아둘 점
- 여러 플랫폼용 ncnn을 빌드하려면 별도의 빌드 방법 위키 가이드를 따라야 합니다.
- 메타데이터에 라이선스가 지정되어 있지 않지만 README 배지에는 BSD 3-Clause라고 표시되어 있습니다. 사용 전에 LICENSE.txt를 확인하세요.
토픽
자주 묻는 질문
- ncnn은(는) 무엇인가요?
- 모바일, 임베디드 및 데스크톱 기기에서 딥러닝 모델을 실행하기 위한 고성능 C++ 신경망 추론 프레임워크입니다. ncnn은 학습된 모델을 휴대폰, PC, 브라우저 및 엣지 기기에 배포하기 위한 C++ 신경망 추론 프레임워크입니다. 서드파티 런타임 의존성이 없으며, ARM NEON 최적화를 적용한 CPU나 Vulkan GPU에서 실행됩니다.
- ncnn은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- ncnn은(는) Other 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- ncnn은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. ncnn의 마지막 커밋은 2026년 10월 20일입니다.
- ncnn은(는) 어디에 사용할 수 있나요?
- 모바일 앱에서 객체 탐지 또는 얼굴 탐지 모델을 실행합니다. 무거운 런타임 없이 PyTorch 모델을 임베디드 보드에 배포합니다. WebAssembly를 통해 브라우저에서 신경망 추론을 실행합니다. C++ 데스크톱 애플리케이션에 AI 기능을 추가합니다.
- ncnn는 어떻게 설치하나요?
- PyTorch 환경에 pnnx를 설치합니다: pip3 install pnnx pnnx.export로 PyTorch 모델을 ncnn으로 내보냅니다 생성된 모델을 불러와 ncnn C++ 또는 Python API로 추론을 실행합니다
- ncnn은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/Tencent/ncnn
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
ONNX, TensorFlow, PyTorch, Core ML 등 다양한 형식을 지원하는 신경망·딥러닝·머신러닝 모델 뷰어입니다.
내보낸 모델을 휴대폰, 노트북, 브라우저, 마이크로컨트롤러에서 실행하는 PyTorch의 온디바이스 추론 스택입니다.
OpenVINO, PyTorch, ONNX에서 추론 속도를 높이기 위해 양자화, 프루닝, 희소화를 지원하는 신경망 압축용 Python 프레임워크입니다.
이미지 분류와 관련 비전 작업을 위한 Vision Transformer(ViT) 및 다양한 변형 모델의 PyTorch 구현체입니다.
CUDA, ROCm, Metal, Vulkan, WebGPU 및 CPU 백엔드에서 학습과 추론을 지원하는 Rust 텐서 라이브러리이자 딥러닝 프레임워크입니다.