ゼロコードのCLIとWeb UIで、100種類以上のLLMやVLMを効率よくファインチューニングできる統合フレームワーク。
- スター
- 26,892
- フォーク
- 2,111
- 未解決の Issue
- 64
- 最終コミット
- 4 日前
これは何?
MiniCPM-VとMiniCPM-oは、THUNLPとModelBestが開発するオープンソースのマルチモーダル大規模言語モデルファミリーです。MiniCPM-V 4.7は画像、複数画像、文書、動画を理解し、35B-A3BのMixture-of-Experts版と1B版があります。MiniCPM-o 4.5は9BのエンドツーエンドOmnimodalモデルで、動画と音声のストリームを受け取りながら音声とテキストを生成し、リアルタイムの全二重会話に対応します。
このプロジェクトは、モデルをローカルハードウェアやスマートフォンで実行することを想定しています。SSD上のエキスパート重みとLookahead Expert Schedulingを使ったオンデバイスMoE推論について説明し、BF16、FP8、int4、AWQ、GPTQ、GGUF形式の量子化済み重みを提供しています。iOS、Android、HarmonyOSのほか、Intel、AMD、Arm、Rockchip、Houmoなど複数のチッププラットフォームへのデプロイにも対応しています。
モデルの重みはHugging FaceとModelScopeで公開されており、Ollamaの掲載情報とAPIも用意されています。リポジトリにはファインチューニングのガイドも含まれ、新しい機能を追加しながら忘却を抑えるSelf-Replay Fine-Tuningを紹介しています。
主な機能
- 01MiniCPM-V 4.7による画像、複数画像、文書、動画の理解。
- 02MiniCPM-o 4.5によるリアルタイムの全二重音声・動画対話。
- 03オンデバイス推論の最適化を備えた35B-A3B MoE版と1B版。
- 04int4、FP8、AWQ、GPTQ、GGUF形式の量子化済み重み。
- 05iOS、Android、HarmonyOS、およびIntel、AMD、Arm、Rockchipなど複数のチッププラットフォームへのデプロイ。
- 06Hugging Face、ModelScope、Ollama、APIからの利用。
ユースケース
- データをクラウドに送信せず、スマートフォンやノートPCで視覚言語モデルを実行する。
- ローカルアプリケーションに文書や画像の質問応答機能を組み込む。
- ストリームを見ながら音声で応答できる、リアルタイムの音声・動画アシスタントを構築する。
- 既存の能力を忘れにくくしながら、新しい機能を追加するためにマルチモーダルモデルをファインチューニングする。
クイックスタート
- 1
Hugging Face、ModelScope、またはOllamaからモデルの重みを取得します(リンクは「Model Weights」表にあります)
- 2
実行方法については、READMEの「get-started」セクションを確認してください
使う前に知っておきたいこと
- 35B-A3Bバリアントはサイズが大きく、かなりのメモリが必要です。また、デバイス上で使用するにはSSDへのエキスパートオフロードが必要です。
- READMEの抜粋には直接インストールできるパッケージのコマンドが記載されていないため、セットアップはリンク先のモデルページとドキュメントに依存します。
トピック
よくある質問
- MiniCPM-V とは?
- ローカルやオンデバイス環境で画像、動画、文書、音声を理解するオープンソースのマルチモーダルモデル(MiniCPM-V 4.7、MiniCPM-o 4.5)。 MiniCPM-VとMiniCPM-oは、THUNLPとModelBestが開発するオープンソースのマルチモーダル大規模言語モデルファミリーです。MiniCPM-V 4.7は画像、複数画像、文書、動画を理解し、35B-A3BのMixture-of-Experts版と1B版があります。MiniCPM-o 4.5は9BのエンドツーエンドOmnimodalモデルで、動画と音声のストリームを受け取りながら音声とテキストを生成し、リアルタイムの全二重会話に対応します。
- MiniCPM-V は無料で使えますか?ライセンスは?
- MiniCPM-V は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- MiniCPM-V は今もメンテナンスされていますか?
- 活発にメンテナンス中。MiniCPM-V の最終コミットは 2026年10月16日 です。
- MiniCPM-V は何に使えますか?
- データをクラウドに送信せず、スマートフォンやノートPCで視覚言語モデルを実行する。 ローカルアプリケーションに文書や画像の質問応答機能を組み込む。 ストリームを見ながら音声で応答できる、リアルタイムの音声・動画アシスタントを構築する。 既存の能力を忘れにくくしながら、新しい機能を追加するためにマルチモーダルモデルをファインチューニングする。
- MiniCPM-V のインストール方法は?
- Hugging Face、ModelScope、またはOllamaからモデルの重みを取得します(リンクは「Model Weights」表にあります) 実行方法については、READMEの「get-started」セクションを確認してください
- MiniCPM-V はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/OpenBMB/MiniCPM-V
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
Google AI EdgeのAndroid・iOSアプリ。オープンソースLLMやオンデバイス生成AIを、スマートフォン上でオフラインで試せます。
Qwen3.5とC-RADIOv4-Hを基盤とする、視覚理解・空間推論・ツール利用・身体性AI研究向けの90億パラメータのオープンウェイトマルチモーダルモデル。
NEOは、ピクセルと単語を単一のエンコーダーフリーな高密度アーキテクチャで処理する視覚言語モデル群で、学習・評価コードも公開しています。
FSDP2、Muon、Liger kernelsに対応した、VLM・diffusion・LLM向けの統合トレーニングエンジン。
Cherry Studioは、多数のLLMプロバイダーやローカルモデル、300種類以上のプリセットアシスタントに接続できるクロスプラットフォームのデスクトップAIクライアントです。