Framework de serving de inferencia distribuida a escala de centros de datos que coordina vLLM, SGLang y TensorRT-LLM en varias GPU y nodos.
8,4 mil1,8 milRustOtherActualizado hace 8 horas
#omni
Proyectos open source sobre «omni»
Repositorios de GitHub seleccionados relacionados con omni, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
1 repositorio