Открытые нативные унифицированные мультимодальные модели SenseNova для понимания изображений, генерации изображений по тексту и редактирования изображений в рамках одной архитектуры.
ZJUI-AI4H/Hulu-Med
Открытая медицинская vision-language-модель для работы с медицинским текстом, 2D-изображениями, 3D-объёмами КТ и МРТ и хирургическими видео, обученная на открытых данных.
- Звёзды
- 878
- Форки
- 34
- Открытые issues
- 23
- Последний коммит
- 2 месяца назад
Что это?
Hulu-Med — медицинская vision-language-модель от ZJU-AI4H, предназначенная для работы с медицинским текстом, 2D-изображениями, 3D-объёмами, например снимками КТ и МРТ в формате NIfTI, и видео, включая записи операций. Всё это поддерживается одной моделью. Доступны варианты размером от 4B до 235B параметров, построенные на языковых базовых моделях семейства Qwen и визуальном энкодере на основе SigLIP.
Проект делает упор на открытость: авторы представляют сбор и подготовку данных, код обучения и веса модели как полный конвейер и указывают, что модель обучалась на открытых данных. Модели доступны на Hugging Face и ModelScope. Их можно загрузить с помощью библиотеки Transformers, указав trust_remote_code, либо запустить через специальный загрузчик и сборку vLLM, чтобы ускорить инференс с помощью тензорного параллелизма.
В репозитории есть примеры кода для работы с одним или несколькими изображениями, чередующимися входными данными, 3D-данными и видео. Также доступен дополнительный режим рассуждений, в котором модель показывает ход своих рассуждений. Кроме того, в репозитории есть ссылка на набор инструментов для оценки MedUniEval, предназначенный для тестирования медицинских vision-language-моделей.
Ключевые возможности
- 01Работает с медицинским текстом, 2D-изображениями, 3D-объёмами NIfTI и видео в рамках одной модели
- 02Доступна в нескольких размерах — от 4B до 235B параметров
- 03Загружается через Hugging Face Transformers с параметром trust_remote_code
- 04Поддерживает vLLM и тензорный параллелизм для ускорения инференса
- 05Дополнительный режим рассуждений показывает ход рассуждений модели
Сценарии использования
- Подготовка черновиков медицинских заключений по 2D- или 3D-снимкам
- Ответы на вопросы об изображениях гистологических препаратов или радиологических снимках
- Анализ хирургических видео для распознавания этапов операции
- Сравнительная оценка мультимодальных медицинских моделей в исследованиях
Темы
Частые вопросы
- Что такое Hulu-Med?
- Открытая медицинская vision-language-модель для работы с медицинским текстом, 2D-изображениями, 3D-объёмами КТ и МРТ и хирургическими видео, обученная на открытых данных. Hulu-Med — медицинская vision-language-модель от ZJU-AI4H, предназначенная для работы с медицинским текстом, 2D-изображениями, 3D-объёмами, например снимками КТ и МРТ в формате NIfTI, и видео, включая записи операций. Всё это поддерживается одной моделью. Доступны варианты размером от 4B до 235B параметров, построенные на языковых базовых моделях семейства Qwen и визуальном энкодере на основе SigLIP.
- Hulu-Med можно использовать бесплатно? Какая у него лицензия?
- Hulu-Med распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- Hulu-Med всё ещё поддерживается?
- Обновлялся за последние 6 месяцев. Последний коммит в Hulu-Med — 30 авг. 2026 г..
- Для чего можно использовать Hulu-Med?
- Подготовка черновиков медицинских заключений по 2D- или 3D-снимкам Ответы на вопросы об изображениях гистологических препаратов или радиологических снимках Анализ хирургических видео для распознавания этапов операции Сравнительная оценка мультимодальных медицинских моделей в исследованиях
- Где скачать Hulu-Med?
- Исходный код и инструкции по установке — на GitHub: https://github.com/ZJUI-AI4H/Hulu-Med
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Мультимодальная модель с открытыми весами и 9 млрд параметров для визуального понимания, пространственных рассуждений, использования инструментов и исследований embodied AI, построенная на Qwen3.5 и C-RADIOv4-H.
Единый фреймворк для эффективной тонкой настройки более 100 LLM и VLM через CLI и веб-интерфейс без написания кода.
Мультимодальный стек AI-агентов с открытым исходным кодом от ByteDance: CLI и Web UI (Agent TARS), а также десктопное GUI-приложение-агент (UI-TARS Desktop).
Открытые мультимодальные модели (MiniCPM-V 4.7 и MiniCPM-o 4.5) для работы с изображениями, видео, документами и речью на локальных устройствах.
Единый фреймворк для few-shot-оценки языковых моделей на десятках стандартных академических бенчмарков.