Framework de serving distribuído para inferência em escala de datacenter, que orquestra vLLM, SGLang e TensorRT-LLM em várias GPUs e nós.
8,4 mil1,8 milRustOtherAtualizado há 8 horas
#omni
Projetos open source sobre “omni”
Repositórios do GitHub selecionados relacionados a omni, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
1 repositório