一个开源医疗视觉-语言模型,可处理医学文本、2D图像、3D体数据和手术视频,训练数据全部公开。
ZJU4HealthCare/HealthGPT
医疗多模态大模型系列,包含面向医学文本、2D 图像与 3D 体数据理解的 HealthGPT-Pro,以及统一理解与生成的 HealthGPT。
- Star
- 1,660
- Fork
- 242
- 未关闭 Issue
- 13
- 最近提交
- 3个月前
这是什么?
HealthGPT 系列是一组医疗多模态大语言模型,由两个子项目组成。基于 Qwen3-VL 构建的 HealthGPT-Pro 面向医学理解与分析,可处理医学文本、CT、MRI、X 光、眼底、病理切片等 2D 图像以及 3D 医学体数据,提供 4B、8B、27B 等规格并已发布到 Hugging Face 和 ModelScope。
HealthGPT 是系列中统一理解与生成的模型。它采用异构低秩适配(H-LoRA)和三阶段训练策略,使预训练大语言模型既能遵循视觉理解指令,也能完成视觉生成指令。该工作已被 ICML 2025 以 Spotlight 形式接收。
仓库提供模型权重、VL-Health 数据集,以及与 Lingshu、Hulu-Med 等模型在医学问答和视觉语言任务上的对比结果。安装与推理细节见各子项目目录。
核心功能
- 01单一模型同时理解医学文本、2D 图像与 3D 体数据(HealthGPT-Pro)。
- 02覆盖 CT、MRI、眼底、皮肤镜、病理等 14 类医学模态。
- 03通过异构低秩适配(H-LoRA)统一医学图像理解与生成。
- 04在 Hugging Face 与 ModelScope 提供 4B、8B、27B 等规格的模型权重。
- 05附带 VL-Health 数据集及医学问答、视觉问答的基准对比结果。
适用场景
- 研究结合影像分析与医学文本理解的视觉语言模型。
- 在 VQA-RAD、SLAKE、PathVQA 等基准上评测医学多模态大模型。
- 在科研环境中构建覆盖文本与影像的医学问答原型。
- 探索医学影像中基于参数高效适配器的统一理解与生成方法。
快速上手
- 1
打开 HealthGPT-Pro 的 README 查看安装和推理说明
- 2
或打开 HealthGPT 的 README 查看其安装和推理步骤
使用前须知
- 安装和推理说明位于子仓库的 README 中,而非本顶层 README。
- HealthGPT-Pro 版本最大达 270 亿参数,意味着需要较高的硬件配置。
标签
常见问题
- HealthGPT 是什么?
- 医疗多模态大模型系列,包含面向医学文本、2D 图像与 3D 体数据理解的 HealthGPT-Pro,以及统一理解与生成的 HealthGPT。 HealthGPT 系列是一组医疗多模态大语言模型,由两个子项目组成。基于 Qwen3-VL 构建的 HealthGPT-Pro 面向医学理解与分析,可处理医学文本、CT、MRI、X 光、眼底、病理切片等 2D 图像以及 3D 医学体数据,提供 4B、8B、27B 等规格并已发布到 Hugging Face 和 ModelScope。
- HealthGPT 可以免费使用吗?用的什么许可证?
- HealthGPT 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- HealthGPT 还在维护吗?
- 半年内有更新。HealthGPT 最近一次提交是在 2026年7月31日。
- HealthGPT 适合用来做什么?
- 研究结合影像分析与医学文本理解的视觉语言模型。 在 VQA-RAD、SLAKE、PathVQA 等基准上评测医学多模态大模型。 在科研环境中构建覆盖文本与影像的医学问答原型。 探索医学影像中基于参数高效适配器的统一理解与生成方法。
- HealthGPT 怎么安装和运行?
- 打开 HealthGPT-Pro 的 README 查看安装和推理说明 或打开 HealthGPT 的 README 查看其安装和推理步骤
- 在哪里获取 HealthGPT?
- 源代码和安装说明在 GitHub 上:https://github.com/ZJU4HealthCare/HealthGPT
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
统一的大模型微调框架,支持 100 多种 LLM 与 VLM,提供零代码命令行和 Web 界面。
开源多模态模型系列(MiniCPM-V 4.7 与 MiniCPM-o 4.5),可在本地与端侧设备上理解图像、视频、文档和语音。
面向 600 多个大语言模型和 400 多个多模态模型的微调、训练、推理与部署框架。
一个 9B 参数的开源多模态大模型,面向视觉理解、空间推理、智能体工具调用和具身智能研究。
NEO 是一系列原生视觉-语言模型,采用无编码器的统一稠密架构直接处理像素与文字。