Repolode
skypilot-org

skypilot-org/skypilot

Открытая система для запуска, управления и масштабирования AI-нагрузок в Kubernetes, Slurm и более чем 20 облаках и у GPU-провайдеров через единый интерфейс.

Звёзды
10,723
Форки
1,296
Открытые issues
504
Последний коммит
12 часов назад

Что это?

SkyPilot — система для запуска, управления и масштабирования AI-нагрузок на собственной или арендованной инфраструктуре. Пользователи описывают задачу в YAML-файле или через Python API: указывают требования к ресурсам, данные для синхронизации, команды настройки и запуска. Затем SkyPilot находит свободные ресурсы среди зарезервированных GPU, кластеров Kubernetes и Slurm или у множества облачных провайдеров, выделяет машины и передаёт логи в реальном времени. Если провайдер сообщает об ошибке нехватки ресурсов, система автоматически переключается на другой вариант.

Для команд, отвечающих за инфраструктуру, SkyPilot служит плоскостью управления несколькими кластерами и облаками. Он поддерживает групповое планирование, многонодовые задачи, очередь заданий, автоматическую остановку простаивающих ресурсов и плотную упаковку задач на общих кластерах. Все задачи запускаются в собственных аккаунтах облачных провайдеров, VPC и кластерах пользователей.

SkyPilot также поддерживает интерактивную разработку в Kubernetes: подключение к подам по SSH, синхронизацию кода и подключение IDE. В проект входят примеры обучения, развёртывания и дообучения популярных моделей, в том числе варианты развёртывания с vLLM, SGLang и Ollama.

Ключевые возможности

  • 01Запускает одну и ту же задачу в Kubernetes, Slurm, на зарезервированных GPU или у более чем 20 облачных провайдеров.
  • 02Находит самый дешёвый доступный вариант и автоматически переключается на другой при нехватке ресурсов.
  • 03Поддерживает групповое планирование, многонодовые задачи и очередь заданий в Kubernetes.
  • 04Автоматически останавливает простаивающие ресурсы и плотно размещает задачи на общих кластерах.
  • 05Позволяет подключаться по SSH к подам Kubernetes, синхронизировать код и подключать IDE для интерактивной разработки.

Сценарии использования

  • Обучение или дообучение крупных моделей в нескольких GPU-облаках, чтобы избежать нехватки ресурсов.
  • Развёртывание открытых LLM, например vLLM или SGLang, на собственных GPU.
  • Предоставление ML-командам простого интерфейса для запуска задач в общем кластере Kubernetes, которым управляют специалисты по инфраструктуре.
  • Запуск пакетных экспериментов или перебора гиперпараметров с автоматической постановкой в очередь и очисткой ресурсов.

Быстрый старт

  1. 1

    Установите SkyPilot с помощью uv, выбрав облака

    uv pip install "skypilot[kubernetes,aws,gcp,azure,oci,nebius,lambda,runpod,fluidstack,paperspace,cudo,ibm,scp,seeweb,shadeform,verda]"
  2. 2

    Клонируйте пример проекта в каталог workdir

    git clone https://github.com/pytorch/examples.git ~/torch_examples
  3. 3

    Сохраните YAML примера задачи из README под именем my_task.yaml

  4. 4

    Запустите задачу на своей инфраструктуре (требуется доступ к GPU)

    sky launch my_task.yaml

Что важно знать

  • Для запуска реальных рабочих нагрузок нужны облачные аккаунты и квоты либо кластер Kubernetes/Slurm.
  • Для запуска примера нужен доступ к экземплярам с GPU.

Темы

Частые вопросы

Что такое skypilot?
Открытая система для запуска, управления и масштабирования AI-нагрузок в Kubernetes, Slurm и более чем 20 облаках и у GPU-провайдеров через единый интерфейс. SkyPilot — система для запуска, управления и масштабирования AI-нагрузок на собственной или арендованной инфраструктуре. Пользователи описывают задачу в YAML-файле или через Python API: указывают требования к ресурсам, данные для синхронизации, команды настройки и запуска. Затем SkyPilot находит свободные ресурсы среди зарезервированных GPU, кластеров Kubernetes и Slurm или у множества облачных провайдеров, выделяет машины и передаёт логи в реальном времени. Если провайдер сообщает об ошибке нехватки ресурсов, система автоматически переключается на другой вариант.
skypilot можно использовать бесплатно? Какая у него лицензия?
skypilot распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
skypilot всё ещё поддерживается?
Активно поддерживается. Последний коммит в skypilot — 20 окт. 2026 г..
Для чего можно использовать skypilot?
Обучение или дообучение крупных моделей в нескольких GPU-облаках, чтобы избежать нехватки ресурсов. Развёртывание открытых LLM, например vLLM или SGLang, на собственных GPU. Предоставление ML-командам простого интерфейса для запуска задач в общем кластере Kubernetes, которым управляют специалисты по инфраструктуре. Запуск пакетных экспериментов или перебора гиперпараметров с автоматической постановкой в очередь и очисткой ресурсов.
Как установить skypilot?
Установите SkyPilot с помощью uv, выбрав облака: uv pip install "skypilot[kubernetes,aws,gcp,azure,oci,nebius,lambda,runpod,fluidstack,paperspace,cudo,ibm,scp,seeweb,shadeform,verda]" Клонируйте пример проекта в каталог workdir: git clone https://github.com/pytorch/examples.git ~/torch_examples Сохраните YAML примера задачи из README под именем my_task.yaml Запустите задачу на своей инфраструктуре (требуется доступ к GPU): sky launch my_task.yaml
Где скачать skypilot?
Исходный код и инструкции по установке — на GitHub: https://github.com/skypilot-org/skypilot

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты