Repolode
ZJU4HealthCare

ZJU4HealthCare/HealthGPT

Семейство медицинских мультимодальных больших языковых моделей: HealthGPT-Pro понимает медицинские тексты, 2D-изображения и 3D-объёмы, а HealthGPT объединяет понимание и генерацию.

Звёзды
1,660
Форки
242
Открытые issues
13
Последний коммит
3 месяца назад

Что это?

HealthGPT Series — семейство медицинских мультимодальных больших языковых моделей, состоящее из двух подпроектов. HealthGPT-Pro, построенная на базе Qwen3-VL, предназначена для понимания и анализа медицинских текстов, 2D-изображений — например, КТ, МРТ, рентгеновских снимков, изображений глазного дна и гистопатологических препаратов — и 3D-медицинских объёмов. Модель выпущена в размерах 4B, 8B и 27B на Hugging Face и ModelScope.

HealthGPT — универсальная модель семейства для понимания и генерации медицинской информации. В ней используются гетерогенная низкоранговая адаптация (H-LoRA) и трёхэтапная стратегия обучения, позволяющие предобученной LLM выполнять инструкции как для визуального понимания, так и для генерации. Статья о проекте принята на ICML 2025 в секцию Spotlight.

В репозитории размещены веса моделей, датасет VL-Health и результаты сравнения с такими моделями, как Lingshu и Hulu-Med, в задачах медицинских вопросов и ответов и vision-language. Инструкции по настройке и инференсу находятся в каталогах подпроектов.

Ключевые возможности

  • 01Понимание медицинских текстов, 2D-изображений и 3D-объёмов в одной модели (HealthGPT-Pro).
  • 02Поддержка 14 медицинских модальностей, включая КТ, МРТ, изображения глазного дна, дерматоскопию и гистопатологию.
  • 03Объединение понимания и генерации с помощью гетерогенной низкоранговой адаптации (H-LoRA).
  • 04Веса моделей размером 4B, 8B и 27B доступны на Hugging Face и ModelScope.
  • 05Включает датасет VL-Health и результаты сравнения в задачах медицинских вопросов и ответов и VQA.

Сценарии использования

  • Исследование медицинских vision-language-моделей, сочетающих понимание заключений с анализом изображений.
  • Оценка медицинских мультимодальных LLM на бенчмарках, таких как VQA-RAD, SLAKE и PathVQA.
  • Создание исследовательских инструментов для ответов на медицинские вопросы по текстовым данным и медицинским изображениям.
  • Изучение объединённого понимания и генерации с помощью параметрически эффективных адаптеров для медицинской визуализации.

Быстрый старт

  1. 1

    Откройте README HealthGPT-Pro, чтобы узнать подробности настройки и инференса

  2. 2

    Или откройте README HealthGPT, чтобы ознакомиться с этапами настройки и инференса

Что важно знать

  • Инструкции по настройке и инференсу находятся в README вложенных репозиториев, а не в этом README верхнего уровня.
  • Число параметров вариантов HealthGPT-Pro достигает 27B, что предполагает высокие требования к оборудованию.

Темы

Частые вопросы

Что такое HealthGPT?
Семейство медицинских мультимодальных больших языковых моделей: HealthGPT-Pro понимает медицинские тексты, 2D-изображения и 3D-объёмы, а HealthGPT объединяет понимание и генерацию. HealthGPT Series — семейство медицинских мультимодальных больших языковых моделей, состоящее из двух подпроектов. HealthGPT-Pro, построенная на базе Qwen3-VL, предназначена для понимания и анализа медицинских текстов, 2D-изображений — например, КТ, МРТ, рентгеновских снимков, изображений глазного дна и гистопатологических препаратов — и 3D-медицинских объёмов. Модель выпущена в размерах 4B, 8B и 27B на Hugging Face и ModelScope.
HealthGPT можно использовать бесплатно? Какая у него лицензия?
HealthGPT распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
HealthGPT всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в HealthGPT — 31 июл. 2026 г..
Для чего можно использовать HealthGPT?
Исследование медицинских vision-language-моделей, сочетающих понимание заключений с анализом изображений. Оценка медицинских мультимодальных LLM на бенчмарках, таких как VQA-RAD, SLAKE и PathVQA. Создание исследовательских инструментов для ответов на медицинские вопросы по текстовым данным и медицинским изображениям. Изучение объединённого понимания и генерации с помощью параметрически эффективных адаптеров для медицинской визуализации.
Как установить HealthGPT?
Откройте README HealthGPT-Pro, чтобы узнать подробности настройки и инференса Или откройте README HealthGPT, чтобы ознакомиться с этапами настройки и инференса
Где скачать HealthGPT?
Исходный код и инструкции по установке — на GitHub: https://github.com/ZJU4HealthCare/HealthGPT

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Мультимодальная модель с открытыми весами и 9 млрд параметров для визуального понимания, пространственных рассуждений, использования инструментов и исследований embodied AI, построенная на Qwen3.5 и C-RADIOv4-H.

3,1 тыс.540PythonApache-2.0Обновлён в прошлом месяце

NEO — семейство нативных моделей для работы с изображениями и текстом, которые обрабатывают пиксели и слова в единой плотной архитектуре без энкодера, с кодом для обучения и оценки.

90433PythonApache-2.0Обновлён 3 месяца назад