NEOは、ピクセルと単語を単一のエンコーダーフリーな高密度アーキテクチャで処理する視覚言語モデル群で、学習・評価コードも公開しています。
jingyaogong/minimind-v
単一GPUで約2時間あればゼロから学習できる、パラメータ数約6,500万の小型オープンソース視覚言語モデルです。
- スター
- 8,775
- フォーク
- 983
- 未解決の Issue
- 22
- 最終コミット
- 30 日前
これは何?
MiniMind-Vは、ビジョンエンコーダーと小型言語モデルを組み合わせ、画像について質問に答えられる小規模なマルチモーダルモデルです。プレーンなPyTorchで、モデル構造、データセットの準備、事前学習、教師ありファインチューニングから、推論やWebUIまで、学習の全工程を扱います。
ビジョン側には、凍結したSigLIP2エンコーダーを使用し、小さなMLPプロジェクターで64個のパッチ特徴量を言語モデルのトークン空間に写像します。言語モデルのバックボーンは、姉妹プロジェクトであるMiniMindのテキストモデルを初期値とし、ファインチューニングではプロジェクターとLLMの最初および最後のレイヤーだけを更新します。公開モデルには、dense版の65MモデルとMoE版があります。
このリポジトリは、視覚言語モデルの構築方法を学ぶことを目的としており、マルチGPUのDDP学習、bfloat16混合精度、チェックポイントからの再開、wandbまたはSwanLabによるログ記録に対応しています。出力は粗く、目立つ繰り返しや細部の誤りもあるため、本番利用より実験に向いています。
主な機能
- 01単一GPUで、手順が文書化されたSFTワークフローを使い、パラメータ数6,500万のVLMをゼロから学習できます。
- 02凍結したSigLIP2ビジョンエンコーダーと、64個の画像トークンをLLMに写像するMLPプロジェクターを使用します。
- 03dense版とMoE版のモデルを提供します。
- 04Parquet形式の画像・テキストデータセット向けに、データ準備スクリプトを収録しています。
- 05DDPによるマルチGPU学習、bfloat16、チェックポイントからの再開、wandbまたはSwanLabでのログ記録に対応しています。
- 06コマンドライン評価ツールと、画像についてチャットできるWebUIを備えています。
ユースケース
- ビジョンエンコーダー、プロジェクター、LLMから視覚言語モデルを組み立てる方法を学ぶ。
- 一般向けGPU 1台で、小規模なマルチモーダル学習実験を行う。
- 最小限で読みやすいコードベースを使って、画像質問応答のプロトタイプを作る。
- 小型VLMを独自の画像・テキストデータセットに適応させるためのベースとして使う。
トピック
よくある質問
- minimind-v とは?
- 単一GPUで約2時間あればゼロから学習できる、パラメータ数約6,500万の小型オープンソース視覚言語モデルです。 MiniMind-Vは、ビジョンエンコーダーと小型言語モデルを組み合わせ、画像について質問に答えられる小規模なマルチモーダルモデルです。プレーンなPyTorchで、モデル構造、データセットの準備、事前学習、教師ありファインチューニングから、推論やWebUIまで、学習の全工程を扱います。
- minimind-v は無料で使えますか?ライセンスは?
- minimind-v は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- minimind-v は今もメンテナンスされていますか?
- 活発にメンテナンス中。minimind-v の最終コミットは 2026年9月22日 です。
- minimind-v は何に使えますか?
- ビジョンエンコーダー、プロジェクター、LLMから視覚言語モデルを組み立てる方法を学ぶ。 一般向けGPU 1台で、小規模なマルチモーダル学習実験を行う。 最小限で読みやすいコードベースを使って、画像質問応答のプロトタイプを作る。 小型VLMを独自の画像・テキストデータセットに適応させるためのベースとして使う。
- minimind-v はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/jingyaogong/minimind-v
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
FSDP2、Muon、Liger kernelsに対応した、VLM・diffusion・LLM向けの統合トレーニングエンジン。
PyTorchとTritonを基盤に、3D並列処理、ZeROによるメモリ最適化、Hugging Face連携を備えた大規模言語モデルの学習用オープンソースライブラリ。
ByteDance発のオープンソースなマルチモーダルAIエージェント基盤。CLI/Web UIのAgent TARSと、デスクトップGUIエージェントアプリのUI-TARS Desktopを提供。
ローカルやオンデバイス環境で画像、動画、文書、音声を理解するオープンソースのマルチモーダルモデル(MiniCPM-V 4.7、MiniCPM-o 4.5)。
NVIDIAが提供する、ロボット、自動運転車、スマートインフラ向けのフィジカルAI開発に役立つ基盤モデル、データセット、ツール。