Gateway de LLM independiente del motor, escrito en Rust, que enruta tráfico compatible con OpenAI y Anthropic entre motores de inferencia autohospedados y proveedores de modelos en la nube.
633195RustApache-2.0Actualizado hace 11 horas
#inference-gateway
Proyectos open source sobre «inference-gateway»
Repositorios de GitHub seleccionados relacionados con inference-gateway, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
1 repositorio