公開データで学習した、医療テキスト、2D画像、3D CT/MRIボリューム、手術動画を扱えるオープンな医療向け視覚言語モデルです。
ZJU4HealthCare/HealthGPT
医療向けマルチモーダル大規模言語モデルのファミリー。医療テキスト・2D画像・3Dボリュームを理解するHealthGPT-Proと、理解と生成を統合するHealthGPTを提供します。
- スター
- 1,660
- フォーク
- 242
- 未解決の Issue
- 13
- 最終コミット
- 3 か月前
これは何?
HealthGPT Seriesは、2つのサブプロジェクトで構成される医療向けマルチモーダル大規模言語モデルのファミリーです。Qwen3-VLを基盤とするHealthGPT-Proは、医療テキストや、CT、MRI、X線、眼底画像、病理組織画像などの2D画像、3D医療ボリュームを対象に、医療分野の理解と分析を行います。4B、8B、27BのモデルがHugging FaceとModelScopeで公開されています。
HealthGPTは、医療分野の理解と生成を統合するシリーズ内のモデルです。異種低ランク適応(H-LoRA)と3段階の学習戦略を採用し、事前学習済みLLMが視覚的な理解と生成の両方の指示に従えるようにします。本プロジェクトはICML 2025のSpotlight論文に採択されました。
リポジトリには、モデルの重み、データセット(VL-Health)、医療QAや視覚言語タスクにおけるLingshuやHulu-Medなどとのベンチマーク結果が含まれています。セットアップと推論の詳細は各サブプロジェクトのディレクトリにあります。
主な機能
- 01医療テキスト、2D画像、3Dボリュームを1つのモデルで理解します(HealthGPT-Pro)。
- 02CT、MRI、眼底画像、ダーモスコピー、病理組織画像など、14種類の医療モダリティに対応します。
- 03異種低ランク適応(H-LoRA)により、理解と生成を統合します。
- 044B、8B、27Bのモデルの重みをHugging FaceとModelScopeで公開しています。
- 05VL-Healthデータセットと、医療QAおよびVQAタスクのベンチマーク比較を収録しています。
ユースケース
- レポートの理解と画像分析を組み合わせる医療視覚言語モデルの研究。
- VQA-RAD、SLAKE、PathVQAなどのベンチマークを使った医療マルチモーダルLLMの評価。
- 研究用途で、テキストと医用画像データを対象とする医療質問応答ツールの構築。
- 医用画像分野における、パラメータ効率の高いアダプターを使った理解と生成の統合に関する研究。
クイックスタート
- 1
セットアップと推論の詳細は、HealthGPT-Pro の README を開いて確認してください
- 2
または、HealthGPT の README を開いてセットアップと推論の手順を確認してください
使う前に知っておきたいこと
- セットアップと推論の手順は、このトップレベルの README ではなく、サブリポジトリの README に記載されています。
- HealthGPT-Pro の各バリアントは最大 27B パラメータで、相応のハードウェア要件が必要です。
トピック
よくある質問
- HealthGPT とは?
- 医療向けマルチモーダル大規模言語モデルのファミリー。医療テキスト・2D画像・3Dボリュームを理解するHealthGPT-Proと、理解と生成を統合するHealthGPTを提供します。 HealthGPT Seriesは、2つのサブプロジェクトで構成される医療向けマルチモーダル大規模言語モデルのファミリーです。Qwen3-VLを基盤とするHealthGPT-Proは、医療テキストや、CT、MRI、X線、眼底画像、病理組織画像などの2D画像、3D医療ボリュームを対象に、医療分野の理解と分析を行います。4B、8B、27BのモデルがHugging FaceとModelScopeで公開されています。
- HealthGPT は無料で使えますか?ライセンスは?
- HealthGPT は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- HealthGPT は今もメンテナンスされていますか?
- 半年以内に更新あり。HealthGPT の最終コミットは 2026年7月31日 です。
- HealthGPT は何に使えますか?
- レポートの理解と画像分析を組み合わせる医療視覚言語モデルの研究。 VQA-RAD、SLAKE、PathVQAなどのベンチマークを使った医療マルチモーダルLLMの評価。 研究用途で、テキストと医用画像データを対象とする医療質問応答ツールの構築。 医用画像分野における、パラメータ効率の高いアダプターを使った理解と生成の統合に関する研究。
- HealthGPT のインストール方法は?
- セットアップと推論の詳細は、HealthGPT-Pro の README を開いて確認してください または、HealthGPT の README を開いてセットアップと推論の手順を確認してください
- HealthGPT はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/ZJU4HealthCare/HealthGPT
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
ゼロコードのCLIとWeb UIで、100種類以上のLLMやVLMを効率よくファインチューニングできる統合フレームワーク。
ローカルやオンデバイス環境で画像、動画、文書、音声を理解するオープンソースのマルチモーダルモデル(MiniCPM-V 4.7、MiniCPM-o 4.5)。
SFT、DPO、GRPOに対応し、600以上の大規模言語モデルと400以上のマルチモーダルモデルのファインチューニング、学習、推論、デプロイを支援するフレームワーク。
Qwen3.5とC-RADIOv4-Hを基盤とする、視覚理解・空間推論・ツール利用・身体性AI研究向けの90億パラメータのオープンウェイトマルチモーダルモデル。
NEOは、ピクセルと単語を単一のエンコーダーフリーな高密度アーキテクチャで処理する視覚言語モデル群で、学習・評価コードも公開しています。