Gateway de LLM independiente del motor, escrito en Rust, que enruta tráfico compatible con OpenAI y Anthropic entre motores de inferencia autohospedados y proveedores de modelos en la nube.
633195RustApache-2.0Actualizado hace 18 horas
#sglang
Proyectos open source sobre «sglang»
Repositorios de GitHub seleccionados relacionados con sglang, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
1 repositorio