Платформа на базе Kubernetes для масштабируемого развертывания и обслуживания предиктивных и генеративных ИИ-моделей на разных ML-фреймворках.
kuberay-project/kuberay
Оператор Kubernetes для развёртывания и управления приложениями Ray с помощью ресурсов RayCluster, RayJob и RayService.
- Звёзды
- 2,739
- Форки
- 894
- Открытые issues
- 718
- Последний коммит
- позавчера
Что это?
KubeRay — это оператор Kubernetes с открытым исходным кодом для запуска приложений Ray в Kubernetes. Он определяет три пользовательских ресурса: RayCluster, который управляет жизненным циклом кластера Ray, включая создание, удаление, автомасштабирование и отказоустойчивость; RayJob, который создаёт RayCluster и отправляет задачу после готовности кластера, а также позволяет удалить кластер после её завершения; и RayService, который объединяет RayCluster с развёртыванием Ray Serve и поддерживает обновления без простоя.
Основной компонент поддерживается в рамках проекта. К необязательным компонентам экосистемы относятся плагин kubectl (бета-версия), API-сервер (альфа-версия) и дашборд (экспериментальный). Проект интегрируется с инструментами Kubernetes, такими как Prometheus, Grafana, Volcano, Kueue и Apache YuniKorn. Это проект-песочница CNCF с лицензией Apache-2.0.
Ключевые возможности
- 01Управляет жизненным циклом RayCluster, включая автомасштабирование и отказоустойчивость.
- 02Запускает задачи Ray через RayJob и при необходимости удаляет кластер после их завершения.
- 03Развёртывает приложения Ray Serve с помощью RayService и обновляет их без простоя.
- 04Предлагает необязательный плагин kubectl для типовых сценариев работы с Ray.
Сценарии использования
- Запуск распределённых задач обучения в общем кластере Kubernetes.
- Развёртывание моделей машинного обучения с помощью Ray Serve в Kubernetes.
- Запуск пакетного инференса или обработки данных, для которых нужны временные кластеры Ray.
Быстрый старт
- 1
Откройте краткое руководство по RayCluster в документации Ray
- 2
Чтобы использовать эти ресурсы, следуйте краткому руководству по RayJob или RayService в документации Ray
Что важно знать
- Требуется кластер Kubernetes; настройка выполняется по документации Ray, а не одной командой установки.
- KubeRay APIServer находится на стадии alpha, а dashboard является экспериментальным и не готов к использованию в production.
- Плагин kubectl всё ещё находится на стадии beta.
Темы
Частые вопросы
- Что такое kuberay?
- Оператор Kubernetes для развёртывания и управления приложениями Ray с помощью ресурсов RayCluster, RayJob и RayService. KubeRay — это оператор Kubernetes с открытым исходным кодом для запуска приложений Ray в Kubernetes. Он определяет три пользовательских ресурса: RayCluster, который управляет жизненным циклом кластера Ray, включая создание, удаление, автомасштабирование и отказоустойчивость; RayJob, который создаёт RayCluster и отправляет задачу после готовности кластера, а также позволяет удалить кластер после её завершения; и RayService, который объединяет RayCluster с развёртыванием Ray Serve и поддерживает обновления без простоя.
- kuberay можно использовать бесплатно? Какая у него лицензия?
- kuberay распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- kuberay всё ещё поддерживается?
- Активно поддерживается. Последний коммит в kuberay — 20 окт. 2026 г..
- Для чего можно использовать kuberay?
- Запуск распределённых задач обучения в общем кластере Kubernetes. Развёртывание моделей машинного обучения с помощью Ray Serve в Kubernetes. Запуск пакетного инференса или обработки данных, для которых нужны временные кластеры Ray.
- Как установить kuberay?
- Откройте краткое руководство по RayCluster в документации Ray Чтобы использовать эти ресурсы, следуйте краткому руководству по RayJob или RayService в документации Ray
- Где скачать kuberay?
- Исходный код и инструкции по установке — на GitHub: https://github.com/kuberay-project/kuberay
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Открытая control plane для подготовки и оркестрации GPU-вычислений при обучении и инференсе в GPU-облаках, Kubernetes, на виртуальных машинах и локальных кластерах.
Учебная программа Microsoft по ИИ для начинающих: 12 недель и 24 урока о символическом ИИ, нейросетях, компьютерном зрении, NLP и этике, с ноутбуками на PyTorch и TensorFlow.
Ray — единый фреймворк для масштабирования приложений на Python и ИИ: от ноутбука до кластера, с распределённой средой выполнения и библиотеками для ИИ.
Python-библиотека Hugging Face для загрузки публичных AI-датасетов с Hub одной строкой и эффективной предобработки с помощью инструментов на базе Arrow.
Подборка библиотек, моделей, реализаций, руководств и статей по PyTorch на GitHub.