코드 작성 없이 CLI와 웹 UI로 100개 이상의 LLM 및 VLM을 효율적으로 파인튜닝하는 통합 프레임워크입니다.
- 스타
- 26,892
- 포크
- 2,111
- 열린 이슈
- 64
- 마지막 커밋
- 4일 전
어떤 프로젝트인가요?
MiniCPM-V와 MiniCPM-o는 THUNLP와 ModelBest가 개발한 오픈소스 멀티모달 대규모 언어 모델 제품군입니다. MiniCPM-V 4.7은 이미지, 여러 이미지, 문서, 동영상 이해를 지원하며, 35B-A3B mixture-of-experts 변형과 1B 변형으로 제공됩니다. MiniCPM-o 4.5는 동영상과 오디오 스트림을 입력받으면서 음성과 텍스트를 생성하고 실시간 전이중 대화를 지원하는 9B 엔드투엔드 옴니모달 모델입니다.
이 프로젝트는 로컬 하드웨어와 휴대폰에서 모델을 실행하는 것을 목표로 합니다. SSD에 저장된 expert weights와 Lookahead Expert Scheduling을 이용한 온디바이스 MoE 추론 방식을 소개하며, BF16, FP8, int4, AWQ, GPTQ, GGUF 형식의 양자화 가중치를 제공합니다. iOS, Android, HarmonyOS 배포를 다루고 Intel, AMD, Arm, Rockchip, Houmo 등 여러 칩 플랫폼도 지원합니다.
모델 가중치는 Hugging Face와 ModelScope에 공개되어 있으며, Ollama 목록과 API도 제공합니다. 저장소에는 미세 조정 가이드도 포함되어 있습니다. Self-Replay Fine-Tuning을 사용하면 기존 기능의 망각을 제한하면서 기능을 확장할 수 있습니다.
핵심 기능
- 01MiniCPM-V 4.7로 이미지, 여러 이미지, 문서, 동영상을 이해합니다.
- 02MiniCPM-o 4.5로 실시간 전이중 음성 및 동영상 상호작용을 지원합니다.
- 03온디바이스 추론 최적화를 갖춘 35B-A3B MoE 및 1B 변형을 제공합니다.
- 04int4, FP8, AWQ, GPTQ, GGUF 형식의 양자화 가중치를 제공합니다.
- 05iOS, Android, HarmonyOS와 Intel, AMD, Arm, Rockchip의 여러 칩 플랫폼에 배포할 수 있습니다.
- 06Hugging Face, ModelScope, Ollama 및 API를 통해 이용할 수 있습니다.
활용 사례
- 데이터를 클라우드로 전송하지 않고 휴대폰이나 노트북에서 비전-언어 모델을 실행합니다.
- 로컬 애플리케이션에 문서 또는 이미지 질의응답 기능을 구축합니다.
- 스트림을 보면서 음성으로 응답하는 실시간 음성·동영상 어시스턴트를 만듭니다.
- 기존 기능의 망각을 줄이면서 새로운 기능을 추가하도록 멀티모달 모델을 미세 조정합니다.
빠른 시작
- 1
Hugging Face, ModelScope 또는 Ollama에서 모델 가중치를 받으세요(링크는 Model Weights 표에 있습니다).
- 2
실행 방법은 README의 get-started 섹션을 확인하세요.
사용 전 알아둘 점
- 35B-A3B 변형은 크기가 크고 상당한 메모리가 필요하며, 기기에서 사용하려면 SSD로 expert offloading을 해야 합니다.
- README 발췌에는 직접적인 패키지 설치 명령이 없으므로, 설정은 링크된 모델 페이지와 문서에 따라 달라집니다.
토픽
자주 묻는 질문
- MiniCPM-V은(는) 무엇인가요?
- 로컬 및 온디바이스 하드웨어에서 이미지, 동영상, 문서, 음성을 이해하는 오픈소스 멀티모달 모델(MiniCPM-V 4.7 및 MiniCPM-o 4.5). MiniCPM-V와 MiniCPM-o는 THUNLP와 ModelBest가 개발한 오픈소스 멀티모달 대규모 언어 모델 제품군입니다. MiniCPM-V 4.7은 이미지, 여러 이미지, 문서, 동영상 이해를 지원하며, 35B-A3B mixture-of-experts 변형과 1B 변형으로 제공됩니다. MiniCPM-o 4.5는 동영상과 오디오 스트림을 입력받으면서 음성과 텍스트를 생성하고 실시간 전이중 대화를 지원하는 9B 엔드투엔드 옴니모달 모델입니다.
- MiniCPM-V은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- MiniCPM-V은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- MiniCPM-V은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. MiniCPM-V의 마지막 커밋은 2026년 10월 16일입니다.
- MiniCPM-V은(는) 어디에 사용할 수 있나요?
- 데이터를 클라우드로 전송하지 않고 휴대폰이나 노트북에서 비전-언어 모델을 실행합니다. 로컬 애플리케이션에 문서 또는 이미지 질의응답 기능을 구축합니다. 스트림을 보면서 음성으로 응답하는 실시간 음성·동영상 어시스턴트를 만듭니다. 기존 기능의 망각을 줄이면서 새로운 기능을 추가하도록 멀티모달 모델을 미세 조정합니다.
- MiniCPM-V는 어떻게 설치하나요?
- Hugging Face, ModelScope 또는 Ollama에서 모델 가중치를 받으세요(링크는 Model Weights 표에 있습니다). 실행 방법은 README의 get-started 섹션을 확인하세요.
- MiniCPM-V은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/OpenBMB/MiniCPM-V
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
Google AI Edge가 제공하는 Android 및 iOS 앱으로, 오픈소스 LLM과 온디바이스 GenAI를 인터넷 연결 없이 휴대폰에서 체험할 수 있습니다.
Qwen3.5와 C-RADIOv4-H 기반의 9B 오픈 웨이트 멀티모달 모델
NEO는 픽셀과 단어를 하나의 인코더 없는 dense 아키텍처로 처리하는 네이티브 VLM 제품군입니다.
FSDP2, Muon, Liger 커널을 지원하는 통합 멀티모달 모델 학습 엔진
감성 분석, 예측, 금융 NLP 벤치마크 등 금융 작업에 맞게 파인튜닝한 오픈소스 대규모 언어 모델입니다.