alibaba/MNN

어떤 프로젝트인가요?

핵심 기능

• 01TensorFlow, Caffe, ONNX, TorchScript 모델을 MNN 형식으로 변환합니다.
• 02CPU(ARM, x86)와 Metal, OpenCL, Vulkan, CUDA를 포함한 GPU 백엔드에서 추론을 실행합니다.
• 03모델 크기를 줄이기 위해 FP16 및 Int8 양자화를 지원합니다.
• 04로컬 기기에서 대규모 언어 모델을 실행하는 MNN-LLM 런타임을 제공합니다.
• 05Python API와 경량 OpenCV 유사 이미지 처리 모듈을 제공합니다.

활용 사례

• Android 또는 iOS 앱에서 LLM이나 디퓨전 모델을 오프라인으로 실행합니다.
• 임베디드 기기나 IoT 하드웨어에 컴퓨터 비전 모델을 배포합니다.
• 클라우드 백엔드 없이 모바일 GPU에서 ONNX 또는 TensorFlow 모델을 가속합니다.

빠른 시작

1. 1

   Read the Docs에서 MNN 문서를 읽으세요

2. 2

   MNN 홈페이지(www.mnn.zone)에서 MNN Workbench를 다운로드하세요

사용 전 알아둘 점

• !백엔드에 따라 지원 여부가 다릅니다. README에는 여러 CPU, GPU, NPU 조합이 버그가 있거나 최적화되지 않았거나 지원되지 않는 것으로 표시되어 있습니다.
• !커뮤니티 토론은 주로 중국어로 진행되며, 영어 지원은 제한적입니다.

토픽

자주 묻는 질문

MNN은(는) 무엇인가요?

MNN은 Alibaba가 개발한 경량 딥러닝 추론·학습 엔진으로, 온디바이스 LLM을 포함한 모델을 모바일 및 임베디드 기기에서 실행하도록 설계되었습니다. MNN은 Alibaba의 딥러닝 프레임워크로, 추론과 학습을 모두 지원하며 클라우드가 아닌 기기에서 모델을 효율적으로 실행하는 데 중점을 둡니다. TensorFlow, Caffe, ONNX, TorchScript 모델을 자체 형식으로 변환하고 ARM, x86, Metal, OpenCL, Vulkan, CUDA를 포함한 CPU 및 GPU 백엔드에서 실행합니다.

MNN은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

MNN은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

MNN은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. MNN의 마지막 커밋은 2026년 10월 21일입니다.

MNN은(는) 어디에 사용할 수 있나요?

Android 또는 iOS 앱에서 LLM이나 디퓨전 모델을 오프라인으로 실행합니다. 임베디드 기기나 IoT 하드웨어에 컴퓨터 비전 모델을 배포합니다. 클라우드 백엔드 없이 모바일 GPU에서 ONNX 또는 TensorFlow 모델을 가속합니다.

MNN는 어떻게 설치하나요?

Read the Docs에서 MNN 문서를 읽으세요 MNN 홈페이지(www.mnn.zone)에서 MNN Workbench를 다운로드하세요

MNN은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/alibaba/MNN