Framework de serving que amplía vLLM para ejecutar modelos omnimodales que generan texto, imágenes, audio, video y acciones.
7,3 mil1,9 milPythonApache-2.0Actualizado hace 7 horas
#model-serving
Proyectos open source sobre «model-serving»
Repositorios de GitHub seleccionados relacionados con model-serving, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
2 repositorios
Plataforma nativa de Kubernetes para desplegar y servir modelos de IA predictiva y generativa a escala con distintos frameworks de ML.
6,1 mil1,7 milGoApache-2.0Actualizado hace 10 horas