Repolode
skypilot-org

skypilot-org/skypilot

一个开源的 AI 计算管理系统,用统一接口在 Kubernetes、Slurm 和多家云上运行与扩展 AI 任务。

Star
10,723
Fork
1,296
未关闭 Issue
504
最近提交
8小时前

这是什么?

SkyPilot 是一个用于在现有或租用的基础设施上运行、管理和扩展 AI 任务的系统。用户通过 YAML 文件或 Python API 描述任务所需资源、需同步的数据、环境安装命令和运行命令,SkyPilot 会在预留 GPU、Kubernetes、Slurm 或多家云厂商之间查找可用算力,完成机器调配并回传日志;遇到云厂商容量不足时可自动切换到其他可用资源。

对基础设施团队而言,SkyPilot 可作为跨多个集群和云的统一控制平面,提供 Gang 调度、多节点任务、任务排队、空闲资源自动停止以及共享集群上的任务装箱等能力。所有资源都在用户自己的云账号、VPC 和集群中启动。

在 Kubernetes 上,SkyPilot 还支持通过 SSH 进入 Pod、同步代码和连接 IDE 进行交互式开发,并提供训练、推理服务和微调等示例,涵盖 vLLM、SGLang、Ollama 等常用框架。

核心功能

  • 01同一份任务定义可在 Kubernetes、Slurm、预留 GPU 或 20 多家云厂商上运行。
  • 02自动查找可用且最便宜的算力,遇到容量不足时自动故障转移。
  • 03在 Kubernetes 上提供 Gang 调度、多节点任务和任务排队。
  • 04自动停止空闲资源,并在共享集群上进行任务装箱。
  • 05支持通过 SSH 进入 Kubernetes Pod、同步代码并连接 IDE 进行交互式开发。

适用场景

  • 跨多个 GPU 云训练或微调大模型,避免单一厂商容量不足。
  • 在自有 GPU 上部署 vLLM、SGLang 等开源大模型推理服务。
  • 为 ML 团队在共享 Kubernetes 集群上提供简单的任务提交接口。
  • 运行批量实验或超参数搜索,并自动排队与清理资源。

快速上手

  1. 1

    使用 uv 安装 SkyPilot,并选择你的云平台

    uv pip install "skypilot[kubernetes,aws,gcp,azure,oci,nebius,lambda,runpod,fluidstack,paperspace,cudo,ibm,scp,seeweb,shadeform,verda]"
  2. 2

    将示例项目克隆到工作目录

    git clone https://github.com/pytorch/examples.git ~/torch_examples
  3. 3

    将 README 中的示例任务 YAML 保存为 my_task.yaml

  4. 4

    在你的基础设施上启动任务(需要 GPU 访问权限)

    sky launch my_task.yaml

使用前须知

  • 运行实际工作负载需要云账号、配额或 Kubernetes/Slurm 集群。
  • 运行示例需要有 GPU 实例的访问权限。

标签

常见问题

skypilot 是什么?
一个开源的 AI 计算管理系统,用统一接口在 Kubernetes、Slurm 和多家云上运行与扩展 AI 任务。 SkyPilot 是一个用于在现有或租用的基础设施上运行、管理和扩展 AI 任务的系统。用户通过 YAML 文件或 Python API 描述任务所需资源、需同步的数据、环境安装命令和运行命令,SkyPilot 会在预留 GPU、Kubernetes、Slurm 或多家云厂商之间查找可用算力,完成机器调配并回传日志;遇到云厂商容量不足时可自动切换到其他可用资源。
skypilot 可以免费使用吗?用的什么许可证?
skypilot 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
skypilot 还在维护吗?
活跃维护中。skypilot 最近一次提交是在 2026年10月20日。
skypilot 适合用来做什么?
跨多个 GPU 云训练或微调大模型,避免单一厂商容量不足。 在自有 GPU 上部署 vLLM、SGLang 等开源大模型推理服务。 为 ML 团队在共享 Kubernetes 集群上提供简单的任务提交接口。 运行批量实验或超参数搜索,并自动排队与清理资源。
skypilot 怎么安装和运行?
使用 uv 安装 SkyPilot,并选择你的云平台: uv pip install "skypilot[kubernetes,aws,gcp,azure,oci,nebius,lambda,runpod,fluidstack,paperspace,cudo,ibm,scp,seeweb,shadeform,verda]" 将示例项目克隆到工作目录: git clone https://github.com/pytorch/examples.git ~/torch_examples 将 README 中的示例任务 YAML 保存为 my_task.yaml 在你的基础设施上启动任务(需要 GPU 访问权限): sky launch my_task.yaml
在哪里获取 skypilot?
源代码和安装说明在 GitHub 上:https://github.com/skypilot-org/skypilot

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目