Repolode
ZJUI-AI4H

ZJUI-AI4H/Hulu-Med

Открытая медицинская vision-language-модель для работы с медицинским текстом, 2D-изображениями, 3D-объёмами КТ и МРТ и хирургическими видео, обученная на открытых данных.

Звёзды
878
Форки
34
Открытые issues
23
Последний коммит
2 месяца назад

Что это?

Hulu-Med — медицинская vision-language-модель от ZJU-AI4H, предназначенная для работы с медицинским текстом, 2D-изображениями, 3D-объёмами, например снимками КТ и МРТ в формате NIfTI, и видео, включая записи операций. Всё это поддерживается одной моделью. Доступны варианты размером от 4B до 235B параметров, построенные на языковых базовых моделях семейства Qwen и визуальном энкодере на основе SigLIP.

Проект делает упор на открытость: авторы представляют сбор и подготовку данных, код обучения и веса модели как полный конвейер и указывают, что модель обучалась на открытых данных. Модели доступны на Hugging Face и ModelScope. Их можно загрузить с помощью библиотеки Transformers, указав trust_remote_code, либо запустить через специальный загрузчик и сборку vLLM, чтобы ускорить инференс с помощью тензорного параллелизма.

В репозитории есть примеры кода для работы с одним или несколькими изображениями, чередующимися входными данными, 3D-данными и видео. Также доступен дополнительный режим рассуждений, в котором модель показывает ход своих рассуждений. Кроме того, в репозитории есть ссылка на набор инструментов для оценки MedUniEval, предназначенный для тестирования медицинских vision-language-моделей.

Ключевые возможности

  • 01Работает с медицинским текстом, 2D-изображениями, 3D-объёмами NIfTI и видео в рамках одной модели
  • 02Доступна в нескольких размерах — от 4B до 235B параметров
  • 03Загружается через Hugging Face Transformers с параметром trust_remote_code
  • 04Поддерживает vLLM и тензорный параллелизм для ускорения инференса
  • 05Дополнительный режим рассуждений показывает ход рассуждений модели

Сценарии использования

  • Подготовка черновиков медицинских заключений по 2D- или 3D-снимкам
  • Ответы на вопросы об изображениях гистологических препаратов или радиологических снимках
  • Анализ хирургических видео для распознавания этапов операции
  • Сравнительная оценка мультимодальных медицинских моделей в исследованиях

Темы

Частые вопросы

Что такое Hulu-Med?
Открытая медицинская vision-language-модель для работы с медицинским текстом, 2D-изображениями, 3D-объёмами КТ и МРТ и хирургическими видео, обученная на открытых данных. Hulu-Med — медицинская vision-language-модель от ZJU-AI4H, предназначенная для работы с медицинским текстом, 2D-изображениями, 3D-объёмами, например снимками КТ и МРТ в формате NIfTI, и видео, включая записи операций. Всё это поддерживается одной моделью. Доступны варианты размером от 4B до 235B параметров, построенные на языковых базовых моделях семейства Qwen и визуальном энкодере на основе SigLIP.
Hulu-Med можно использовать бесплатно? Какая у него лицензия?
Hulu-Med распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
Hulu-Med всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в Hulu-Med — 30 авг. 2026 г..
Для чего можно использовать Hulu-Med?
Подготовка черновиков медицинских заключений по 2D- или 3D-снимкам Ответы на вопросы об изображениях гистологических препаратов или радиологических снимках Анализ хирургических видео для распознавания этапов операции Сравнительная оценка мультимодальных медицинских моделей в исследованиях
Где скачать Hulu-Med?
Исходный код и инструкции по установке — на GitHub: https://github.com/ZJUI-AI4H/Hulu-Med

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Открытые нативные унифицированные мультимодальные модели SenseNova для понимания изображений, генерации изображений по тексту и редактирования изображений в рамках одной архитектуры.

6,9 тыс.532PythonApache-2.0Обновлён 19 дней назад

Мультимодальная модель с открытыми весами и 9 млрд параметров для визуального понимания, пространственных рассуждений, использования инструментов и исследований embodied AI, построенная на Qwen3.5 и C-RADIOv4-H.

3,1 тыс.540PythonApache-2.0Обновлён в прошлом месяце