Gateway de IA MIT auto-hospedável que oferece um endpoint compatível com OpenAI para centenas de provedores de modelos, com fallback automático baseado em cotas e compressão de tokens.
78,3 mil11,4 milTypeScriptMITAtualizado há 8 horas
#llm-routing
Projetos open source sobre “llm-routing”
Repositórios do GitHub selecionados relacionados a llm-routing, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
2 repositórios
Gateway de LLM auto-hospedado e compatível com OpenAI, que encaminha solicitações para mais de 40 provedores por um único endpoint, com chaves virtuais, limites de gastos e acompanhamento de uso.
68789PythonApache-2.0Atualizado há 6 horas