Открытая медицинская vision-language-модель для работы с медицинским текстом, 2D-изображениями, 3D-объёмами КТ и МРТ и хирургическими видео, обученная на открытых данных.
ZJU4HealthCare/HealthGPT
Семейство медицинских мультимодальных больших языковых моделей: HealthGPT-Pro понимает медицинские тексты, 2D-изображения и 3D-объёмы, а HealthGPT объединяет понимание и генерацию.
- Звёзды
- 1,660
- Форки
- 242
- Открытые issues
- 13
- Последний коммит
- 3 месяца назад
Что это?
HealthGPT Series — семейство медицинских мультимодальных больших языковых моделей, состоящее из двух подпроектов. HealthGPT-Pro, построенная на базе Qwen3-VL, предназначена для понимания и анализа медицинских текстов, 2D-изображений — например, КТ, МРТ, рентгеновских снимков, изображений глазного дна и гистопатологических препаратов — и 3D-медицинских объёмов. Модель выпущена в размерах 4B, 8B и 27B на Hugging Face и ModelScope.
HealthGPT — универсальная модель семейства для понимания и генерации медицинской информации. В ней используются гетерогенная низкоранговая адаптация (H-LoRA) и трёхэтапная стратегия обучения, позволяющие предобученной LLM выполнять инструкции как для визуального понимания, так и для генерации. Статья о проекте принята на ICML 2025 в секцию Spotlight.
В репозитории размещены веса моделей, датасет VL-Health и результаты сравнения с такими моделями, как Lingshu и Hulu-Med, в задачах медицинских вопросов и ответов и vision-language. Инструкции по настройке и инференсу находятся в каталогах подпроектов.
Ключевые возможности
- 01Понимание медицинских текстов, 2D-изображений и 3D-объёмов в одной модели (HealthGPT-Pro).
- 02Поддержка 14 медицинских модальностей, включая КТ, МРТ, изображения глазного дна, дерматоскопию и гистопатологию.
- 03Объединение понимания и генерации с помощью гетерогенной низкоранговой адаптации (H-LoRA).
- 04Веса моделей размером 4B, 8B и 27B доступны на Hugging Face и ModelScope.
- 05Включает датасет VL-Health и результаты сравнения в задачах медицинских вопросов и ответов и VQA.
Сценарии использования
- Исследование медицинских vision-language-моделей, сочетающих понимание заключений с анализом изображений.
- Оценка медицинских мультимодальных LLM на бенчмарках, таких как VQA-RAD, SLAKE и PathVQA.
- Создание исследовательских инструментов для ответов на медицинские вопросы по текстовым данным и медицинским изображениям.
- Изучение объединённого понимания и генерации с помощью параметрически эффективных адаптеров для медицинской визуализации.
Быстрый старт
- 1
Откройте README HealthGPT-Pro, чтобы узнать подробности настройки и инференса
- 2
Или откройте README HealthGPT, чтобы ознакомиться с этапами настройки и инференса
Что важно знать
- Инструкции по настройке и инференсу находятся в README вложенных репозиториев, а не в этом README верхнего уровня.
- Число параметров вариантов HealthGPT-Pro достигает 27B, что предполагает высокие требования к оборудованию.
Темы
Частые вопросы
- Что такое HealthGPT?
- Семейство медицинских мультимодальных больших языковых моделей: HealthGPT-Pro понимает медицинские тексты, 2D-изображения и 3D-объёмы, а HealthGPT объединяет понимание и генерацию. HealthGPT Series — семейство медицинских мультимодальных больших языковых моделей, состоящее из двух подпроектов. HealthGPT-Pro, построенная на базе Qwen3-VL, предназначена для понимания и анализа медицинских текстов, 2D-изображений — например, КТ, МРТ, рентгеновских снимков, изображений глазного дна и гистопатологических препаратов — и 3D-медицинских объёмов. Модель выпущена в размерах 4B, 8B и 27B на Hugging Face и ModelScope.
- HealthGPT можно использовать бесплатно? Какая у него лицензия?
- HealthGPT распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- HealthGPT всё ещё поддерживается?
- Обновлялся за последние 6 месяцев. Последний коммит в HealthGPT — 31 июл. 2026 г..
- Для чего можно использовать HealthGPT?
- Исследование медицинских vision-language-моделей, сочетающих понимание заключений с анализом изображений. Оценка медицинских мультимодальных LLM на бенчмарках, таких как VQA-RAD, SLAKE и PathVQA. Создание исследовательских инструментов для ответов на медицинские вопросы по текстовым данным и медицинским изображениям. Изучение объединённого понимания и генерации с помощью параметрически эффективных адаптеров для медицинской визуализации.
- Как установить HealthGPT?
- Откройте README HealthGPT-Pro, чтобы узнать подробности настройки и инференса Или откройте README HealthGPT, чтобы ознакомиться с этапами настройки и инференса
- Где скачать HealthGPT?
- Исходный код и инструкции по установке — на GitHub: https://github.com/ZJU4HealthCare/HealthGPT
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Единый фреймворк для эффективной тонкой настройки более 100 LLM и VLM через CLI и веб-интерфейс без написания кода.
Открытые мультимодальные модели (MiniCPM-V 4.7 и MiniCPM-o 4.5) для работы с изображениями, видео, документами и речью на локальных устройствах.
Фреймворк для дообучения, обучения, инференса и деплоя более 600 больших языковых и 400 мультимодальных моделей, включая SFT, DPO и GRPO.
Мультимодальная модель с открытыми весами и 9 млрд параметров для визуального понимания, пространственных рассуждений, использования инструментов и исследований embodied AI, построенная на Qwen3.5 и C-RADIOv4-H.
NEO — семейство нативных моделей для работы с изображениями и текстом, которые обрабатывают пиксели и слова в единой плотной архитектуре без энкодера, с кодом для обучения и оценки.