Gateway de IA open source que oferece uma API compatível com OpenAI para mais de 23 provedores de LLM, com failover, balanceamento de carga, cache semântico e chaves virtuais.
8,9 mil1,4 milGoApache-2.0Atualizado há 7 horas
#llm-observability
Repositórios do GitHub selecionados relacionados a llm-observability, com resumos de IA e métricas principais.
Gateway de IA open source que oferece uma API compatível com OpenAI para mais de 23 provedores de LLM, com failover, balanceamento de carga, cache semântico e chaves virtuais.