Repolode
Tencent

Tencent/ncnn

모바일, 임베디드 및 데스크톱 기기에서 딥러닝 모델을 실행하기 위한 고성능 C++ 신경망 추론 프레임워크입니다.

대체할 수 있는 제품:TensorFlow LiteCore ML

스타
23,985
포크
4,532
열린 이슈
1,268
마지막 커밋
어제

어떤 프로젝트인가요?

ncnn은 학습된 모델을 휴대폰, PC, 브라우저 및 엣지 기기에 배포하기 위한 C++ 신경망 추론 프레임워크입니다. 서드파티 런타임 의존성이 없으며, ARM NEON 최적화를 적용한 CPU나 Vulkan GPU에서 실행됩니다.

PyTorch 및 ONNX 모델은 pnnx 도구로 ncnn의 .param 및 .bin 형식으로 변환한 뒤 C++, C 또는 Python API를 통해 불러옵니다. 멀티 입력·멀티 출력 그래프, fp16 및 int8 양자화 추론, 커스텀 레이어를 지원합니다. 빌드 안내는 Linux, Windows, macOS, Android, iOS, HarmonyOS, WebAssembly 및 여러 임베디드 보드를 다룹니다.

문서에 따르면 ncnn은 QQ, Qzone, WeChat 등 Tencent의 여러 애플리케이션에서 사용됩니다. 또한 YOLO와 MobileNet 같은 전통적인 CNN 모델 예제와 LLM 및 이미지 생성 데모 같은 최신 워크로드 예제도 제공합니다.

핵심 기능

  • 01ARM NEON 최적화와 멀티코어 스케줄링을 적용한 CPU 또는 Vulkan GPU에서 실행됩니다.
  • 02서드파티 런타임 의존성이 없습니다.
  • 03pnnx 도구로 PyTorch 및 ONNX 모델을 변환합니다.
  • 04C++, C 및 Python API를 제공합니다.
  • 05fp16 및 int8 양자화 추론과 커스텀 레이어를 지원합니다.
  • 06Android, iOS, HarmonyOS, Windows, Linux, macOS 및 WebAssembly용으로 빌드할 수 있습니다.

활용 사례

  • 모바일 앱에서 객체 탐지 또는 얼굴 탐지 모델을 실행합니다.
  • 무거운 런타임 없이 PyTorch 모델을 임베디드 보드에 배포합니다.
  • WebAssembly를 통해 브라우저에서 신경망 추론을 실행합니다.
  • C++ 데스크톱 애플리케이션에 AI 기능을 추가합니다.

빠른 시작

  1. 1

    PyTorch 환경에 pnnx를 설치합니다

    pip3 install pnnx
  2. 2

    pnnx.export로 PyTorch 모델을 ncnn으로 내보냅니다

  3. 3

    생성된 모델을 불러와 ncnn C++ 또는 Python API로 추론을 실행합니다

사용 전 알아둘 점

  • 여러 플랫폼용 ncnn을 빌드하려면 별도의 빌드 방법 위키 가이드를 따라야 합니다.
  • 메타데이터에 라이선스가 지정되어 있지 않지만 README 배지에는 BSD 3-Clause라고 표시되어 있습니다. 사용 전에 LICENSE.txt를 확인하세요.

토픽

자주 묻는 질문

ncnn은(는) 무엇인가요?
모바일, 임베디드 및 데스크톱 기기에서 딥러닝 모델을 실행하기 위한 고성능 C++ 신경망 추론 프레임워크입니다. ncnn은 학습된 모델을 휴대폰, PC, 브라우저 및 엣지 기기에 배포하기 위한 C++ 신경망 추론 프레임워크입니다. 서드파티 런타임 의존성이 없으며, ARM NEON 최적화를 적용한 CPU나 Vulkan GPU에서 실행됩니다.
ncnn은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
ncnn은(는) Other 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
ncnn은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. ncnn의 마지막 커밋은 2026년 10월 20일입니다.
ncnn은(는) 어디에 사용할 수 있나요?
모바일 앱에서 객체 탐지 또는 얼굴 탐지 모델을 실행합니다. 무거운 런타임 없이 PyTorch 모델을 임베디드 보드에 배포합니다. WebAssembly를 통해 브라우저에서 신경망 추론을 실행합니다. C++ 데스크톱 애플리케이션에 AI 기능을 추가합니다.
ncnn는 어떻게 설치하나요?
PyTorch 환경에 pnnx를 설치합니다: pip3 install pnnx pnnx.export로 PyTorch 모델을 ncnn으로 내보냅니다 생성된 모델을 불러와 ncnn C++ 또는 Python API로 추론을 실행합니다
ncnn은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/Tencent/ncnn

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트