Um framework de serving que amplia o vLLM para executar modelos omni-modality que geram texto, imagens, áudio, vídeo e ações.
7,3 mil1,9 milPythonApache-2.0Atualizado há 7 horas
#model-serving
Projetos open source sobre “model-serving”
Repositórios do GitHub selecionados relacionados a model-serving, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
2 repositórios
Plataforma nativa do Kubernetes para implantar e servir modelos de IA preditiva e generativa em escala, com suporte a vários frameworks de ML.
6,1 mil1,7 milGoApache-2.0Atualizado há 10 horas