Gateway de LLM em Rust, independente de engine, que roteia tráfego compatível com OpenAI e Anthropic entre engines de inferência self-hosted e provedores de modelos na nuvem.
633195RustApache-2.0Atualizado há 11 horas
#inference-gateway
Projetos open source sobre “inference-gateway”
Repositórios do GitHub selecionados relacionados a inference-gateway, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
1 repositório