Repolode
OpenBMB

OpenBMB/MiniCPM-V

ローカルやオンデバイス環境で画像、動画、文書、音声を理解するオープンソースのマルチモーダルモデル(MiniCPM-V 4.7、MiniCPM-o 4.5)。

代替できる製品:GPT-4oGemini

スター
26,892
フォーク
2,111
未解決の Issue
64
最終コミット
4 日前

これは何?

MiniCPM-VとMiniCPM-oは、THUNLPとModelBestが開発するオープンソースのマルチモーダル大規模言語モデルファミリーです。MiniCPM-V 4.7は画像、複数画像、文書、動画を理解し、35B-A3BのMixture-of-Experts版と1B版があります。MiniCPM-o 4.5は9BのエンドツーエンドOmnimodalモデルで、動画と音声のストリームを受け取りながら音声とテキストを生成し、リアルタイムの全二重会話に対応します。

このプロジェクトは、モデルをローカルハードウェアやスマートフォンで実行することを想定しています。SSD上のエキスパート重みとLookahead Expert Schedulingを使ったオンデバイスMoE推論について説明し、BF16、FP8、int4、AWQ、GPTQ、GGUF形式の量子化済み重みを提供しています。iOS、Android、HarmonyOSのほか、Intel、AMD、Arm、Rockchip、Houmoなど複数のチッププラットフォームへのデプロイにも対応しています。

モデルの重みはHugging FaceとModelScopeで公開されており、Ollamaの掲載情報とAPIも用意されています。リポジトリにはファインチューニングのガイドも含まれ、新しい機能を追加しながら忘却を抑えるSelf-Replay Fine-Tuningを紹介しています。

主な機能

  • 01MiniCPM-V 4.7による画像、複数画像、文書、動画の理解。
  • 02MiniCPM-o 4.5によるリアルタイムの全二重音声・動画対話。
  • 03オンデバイス推論の最適化を備えた35B-A3B MoE版と1B版。
  • 04int4、FP8、AWQ、GPTQ、GGUF形式の量子化済み重み。
  • 05iOS、Android、HarmonyOS、およびIntel、AMD、Arm、Rockchipなど複数のチッププラットフォームへのデプロイ。
  • 06Hugging Face、ModelScope、Ollama、APIからの利用。

ユースケース

  • データをクラウドに送信せず、スマートフォンやノートPCで視覚言語モデルを実行する。
  • ローカルアプリケーションに文書や画像の質問応答機能を組み込む。
  • ストリームを見ながら音声で応答できる、リアルタイムの音声・動画アシスタントを構築する。
  • 既存の能力を忘れにくくしながら、新しい機能を追加するためにマルチモーダルモデルをファインチューニングする。

クイックスタート

  1. 1

    Hugging Face、ModelScope、またはOllamaからモデルの重みを取得します(リンクは「Model Weights」表にあります)

  2. 2

    実行方法については、READMEの「get-started」セクションを確認してください

使う前に知っておきたいこと

  • 35B-A3Bバリアントはサイズが大きく、かなりのメモリが必要です。また、デバイス上で使用するにはSSDへのエキスパートオフロードが必要です。
  • READMEの抜粋には直接インストールできるパッケージのコマンドが記載されていないため、セットアップはリンク先のモデルページとドキュメントに依存します。

トピック

よくある質問

MiniCPM-V とは?
ローカルやオンデバイス環境で画像、動画、文書、音声を理解するオープンソースのマルチモーダルモデル(MiniCPM-V 4.7、MiniCPM-o 4.5)。 MiniCPM-VとMiniCPM-oは、THUNLPとModelBestが開発するオープンソースのマルチモーダル大規模言語モデルファミリーです。MiniCPM-V 4.7は画像、複数画像、文書、動画を理解し、35B-A3BのMixture-of-Experts版と1B版があります。MiniCPM-o 4.5は9BのエンドツーエンドOmnimodalモデルで、動画と音声のストリームを受け取りながら音声とテキストを生成し、リアルタイムの全二重会話に対応します。
MiniCPM-V は無料で使えますか?ライセンスは?
MiniCPM-V は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
MiniCPM-V は今もメンテナンスされていますか?
活発にメンテナンス中。MiniCPM-V の最終コミットは 2026年10月16日 です。
MiniCPM-V は何に使えますか?
データをクラウドに送信せず、スマートフォンやノートPCで視覚言語モデルを実行する。 ローカルアプリケーションに文書や画像の質問応答機能を組み込む。 ストリームを見ながら音声で応答できる、リアルタイムの音声・動画アシスタントを構築する。 既存の能力を忘れにくくしながら、新しい機能を追加するためにマルチモーダルモデルをファインチューニングする。
MiniCPM-V のインストール方法は?
Hugging Face、ModelScope、またはOllamaからモデルの重みを取得します(リンクは「Model Weights」表にあります) 実行方法については、READMEの「get-started」セクションを確認してください
MiniCPM-V はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/OpenBMB/MiniCPM-V

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト