Plataforma nativa do Kubernetes para implantar e servir modelos de IA preditiva e generativa em escala, com suporte a vários frameworks de ML.
kuberay-project/kuberay
Um operador do Kubernetes que implanta e gerencia aplicações Ray por meio dos recursos RayCluster, RayJob e RayService.
- Estrelas
- 2,739
- Forks
- 894
- Issues abertas
- 718
- Último commit
- anteontem
O que é?
O KubeRay é um operador open source do Kubernetes para executar aplicações Ray no Kubernetes. Ele define três recursos personalizados: RayCluster, que gerencia o ciclo de vida de um cluster Ray, incluindo criação, exclusão, autoscaling e tolerância a falhas; RayJob, que cria um RayCluster e envia um job quando o cluster está pronto, com a opção de excluir o cluster depois; e RayService, que combina um RayCluster com uma implantação do Ray Serve e permite atualizações sem downtime.
O componente principal é mantido como parte do projeto. Os componentes opcionais do ecossistema incluem um plugin do kubectl (beta), um servidor de API (alpha) e um dashboard (experimental). O projeto se integra a ferramentas do Kubernetes, como Prometheus, Grafana, Volcano, Kueue e Apache YuniKorn. É um projeto sandbox da CNCF, licenciado sob Apache-2.0.
Recursos principais
- 01Gerencia o ciclo de vida do RayCluster, incluindo autoscaling e tolerância a falhas.
- 02Executa jobs do Ray por meio do RayJob, com a opção de excluir o cluster ao concluir.
- 03Implanta aplicações Ray Serve com RayService e permite atualizações sem downtime.
- 04Oferece um plugin opcional do kubectl para fluxos de trabalho comuns com Ray.
Casos de uso
- Executar jobs de treinamento distribuído em um cluster Kubernetes compartilhado.
- Servir modelos de machine learning com Ray Serve no Kubernetes.
- Executar jobs de inferência em lote ou processamento de dados que precisam de clusters Ray temporários.
Início rápido
- 1
Abra o guia de início rápido do RayCluster na documentação do Ray
- 2
Para usar esses recursos, siga o guia de início rápido do RayJob ou RayService na documentação do Ray
Antes de usar
- É necessário ter um cluster Kubernetes, e a configuração é feita seguindo a documentação do Ray, não por meio de um único comando de instalação.
- O KubeRay APIServer está em fase alpha e o dashboard é experimental, portanto não está pronto para produção.
- O plugin kubectl ainda está em fase beta.
Tópicos
Perguntas frequentes
- O que é kuberay?
- Um operador do Kubernetes que implanta e gerencia aplicações Ray por meio dos recursos RayCluster, RayJob e RayService. O KubeRay é um operador open source do Kubernetes para executar aplicações Ray no Kubernetes. Ele define três recursos personalizados: RayCluster, que gerencia o ciclo de vida de um cluster Ray, incluindo criação, exclusão, autoscaling e tolerância a falhas; RayJob, que cria um RayCluster e envia um job quando o cluster está pronto, com a opção de excluir o cluster depois; e RayService, que combina um RayCluster com uma implantação do Ray Serve e permite atualizações sem downtime.
- kuberay é gratuito? Qual é a licença?
- kuberay é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
- kuberay ainda é mantido?
- Manutenção ativa. O último commit de kuberay foi em 20 de out. de 2026.
- Para que posso usar kuberay?
- Executar jobs de treinamento distribuído em um cluster Kubernetes compartilhado. Servir modelos de machine learning com Ray Serve no Kubernetes. Executar jobs de inferência em lote ou processamento de dados que precisam de clusters Ray temporários.
- Como instalar kuberay?
- Abra o guia de início rápido do RayCluster na documentação do Ray Para usar esses recursos, siga o guia de início rápido do RayJob ou RayService na documentação do Ray
- Onde consigo kuberay?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/kuberay-project/kuberay
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Um control plane open source que provisiona e orquestra recursos de GPU para treinamento e inferência em clouds, Kubernetes, VMs e clusters on-premises.
Currículo introdutório de IA da Microsoft, com 24 aulas ao longo de 12 semanas sobre IA simbólica, redes neurais, visão computacional, NLP e ética, incluindo notebooks em PyTorch e TensorFlow.
Ray é um framework unificado para escalar aplicações Python e de IA, do laptop ao cluster, com runtime distribuído e bibliotecas de IA.
Biblioteca Python da Hugging Face para carregar datasets públicos de IA do Hub com uma linha e pré-processá-los com eficiência usando ferramentas baseadas em Arrow.
Uma lista selecionada de bibliotecas, modelos, implementações, tutoriais e artigos relacionados ao PyTorch no GitHub.