Открытая control plane для подготовки и оркестрации GPU-вычислений при обучении и инференсе в GPU-облаках, Kubernetes, на виртуальных машинах и локальных кластерах.
skypilot-org/skypilot
Открытая система для запуска, управления и масштабирования AI-нагрузок в Kubernetes, Slurm и более чем 20 облаках и у GPU-провайдеров через единый интерфейс.
- Звёзды
- 10,723
- Форки
- 1,296
- Открытые issues
- 504
- Последний коммит
- 12 часов назад
Что это?
SkyPilot — система для запуска, управления и масштабирования AI-нагрузок на собственной или арендованной инфраструктуре. Пользователи описывают задачу в YAML-файле или через Python API: указывают требования к ресурсам, данные для синхронизации, команды настройки и запуска. Затем SkyPilot находит свободные ресурсы среди зарезервированных GPU, кластеров Kubernetes и Slurm или у множества облачных провайдеров, выделяет машины и передаёт логи в реальном времени. Если провайдер сообщает об ошибке нехватки ресурсов, система автоматически переключается на другой вариант.
Для команд, отвечающих за инфраструктуру, SkyPilot служит плоскостью управления несколькими кластерами и облаками. Он поддерживает групповое планирование, многонодовые задачи, очередь заданий, автоматическую остановку простаивающих ресурсов и плотную упаковку задач на общих кластерах. Все задачи запускаются в собственных аккаунтах облачных провайдеров, VPC и кластерах пользователей.
SkyPilot также поддерживает интерактивную разработку в Kubernetes: подключение к подам по SSH, синхронизацию кода и подключение IDE. В проект входят примеры обучения, развёртывания и дообучения популярных моделей, в том числе варианты развёртывания с vLLM, SGLang и Ollama.
Ключевые возможности
- 01Запускает одну и ту же задачу в Kubernetes, Slurm, на зарезервированных GPU или у более чем 20 облачных провайдеров.
- 02Находит самый дешёвый доступный вариант и автоматически переключается на другой при нехватке ресурсов.
- 03Поддерживает групповое планирование, многонодовые задачи и очередь заданий в Kubernetes.
- 04Автоматически останавливает простаивающие ресурсы и плотно размещает задачи на общих кластерах.
- 05Позволяет подключаться по SSH к подам Kubernetes, синхронизировать код и подключать IDE для интерактивной разработки.
Сценарии использования
- Обучение или дообучение крупных моделей в нескольких GPU-облаках, чтобы избежать нехватки ресурсов.
- Развёртывание открытых LLM, например vLLM или SGLang, на собственных GPU.
- Предоставление ML-командам простого интерфейса для запуска задач в общем кластере Kubernetes, которым управляют специалисты по инфраструктуре.
- Запуск пакетных экспериментов или перебора гиперпараметров с автоматической постановкой в очередь и очисткой ресурсов.
Быстрый старт
- 1
Установите SkyPilot с помощью uv, выбрав облака
uv pip install "skypilot[kubernetes,aws,gcp,azure,oci,nebius,lambda,runpod,fluidstack,paperspace,cudo,ibm,scp,seeweb,shadeform,verda]" - 2
Клонируйте пример проекта в каталог workdir
git clone https://github.com/pytorch/examples.git ~/torch_examples - 3
Сохраните YAML примера задачи из README под именем my_task.yaml
- 4
Запустите задачу на своей инфраструктуре (требуется доступ к GPU)
sky launch my_task.yaml
Что важно знать
- Для запуска реальных рабочих нагрузок нужны облачные аккаунты и квоты либо кластер Kubernetes/Slurm.
- Для запуска примера нужен доступ к экземплярам с GPU.
Темы
Частые вопросы
- Что такое skypilot?
- Открытая система для запуска, управления и масштабирования AI-нагрузок в Kubernetes, Slurm и более чем 20 облаках и у GPU-провайдеров через единый интерфейс. SkyPilot — система для запуска, управления и масштабирования AI-нагрузок на собственной или арендованной инфраструктуре. Пользователи описывают задачу в YAML-файле или через Python API: указывают требования к ресурсам, данные для синхронизации, команды настройки и запуска. Затем SkyPilot находит свободные ресурсы среди зарезервированных GPU, кластеров Kubernetes и Slurm или у множества облачных провайдеров, выделяет машины и передаёт логи в реальном времени. Если провайдер сообщает об ошибке нехватки ресурсов, система автоматически переключается на другой вариант.
- skypilot можно использовать бесплатно? Какая у него лицензия?
- skypilot распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- skypilot всё ещё поддерживается?
- Активно поддерживается. Последний коммит в skypilot — 20 окт. 2026 г..
- Для чего можно использовать skypilot?
- Обучение или дообучение крупных моделей в нескольких GPU-облаках, чтобы избежать нехватки ресурсов. Развёртывание открытых LLM, например vLLM или SGLang, на собственных GPU. Предоставление ML-командам простого интерфейса для запуска задач в общем кластере Kubernetes, которым управляют специалисты по инфраструктуре. Запуск пакетных экспериментов или перебора гиперпараметров с автоматической постановкой в очередь и очисткой ресурсов.
- Как установить skypilot?
- Установите SkyPilot с помощью uv, выбрав облака: uv pip install "skypilot[kubernetes,aws,gcp,azure,oci,nebius,lambda,runpod,fluidstack,paperspace,cudo,ibm,scp,seeweb,shadeform,verda]" Клонируйте пример проекта в каталог workdir: git clone https://github.com/pytorch/examples.git ~/torch_examples Сохраните YAML примера задачи из README под именем my_task.yaml Запустите задачу на своей инфраструктуре (требуется доступ к GPU): sky launch my_task.yaml
- Где скачать skypilot?
- Исходный код и инструкции по установке — на GitHub: https://github.com/skypilot-org/skypilot
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Платформа на базе Kubernetes для масштабируемого развертывания и обслуживания предиктивных и генеративных ИИ-моделей на разных ML-фреймворках.
Open source-платформа для полного цикла разработки и развёртывания моделей машинного обучения с API для Python и C++.
Быстрая и эффективная по памяти библиотека и сервер для запуска и обслуживания больших языковых моделей через API, совместимый с OpenAI.
Ray — единый фреймворк для масштабирования приложений на Python и ИИ: от ноутбука до кластера, с распределённой средой выполнения и библиотеками для ИИ.
Библиотека для оптимизации глубокого обучения, упрощающая и ускоряющая распределённое обучение и инференс больших моделей.