Open-source AI gateway giving one OpenAI-compatible API across 23+ LLM providers, with failover, load balancing, semantic caching and virtual keys.
8,9 тыс.1,4 тыс.GoApache-2.0Обновлён 14 минут назад
#llm-observability
Отобранные репозитории GitHub по теме llm-observability с описаниями от ИИ и ключевыми метриками.
Open-source AI gateway giving one OpenAI-compatible API across 23+ LLM providers, with failover, load balancing, semantic caching and virtual keys.