Самостоятельно размещаемый AI-шлюз под лицензией MIT: единый OpenAI-совместимый endpoint для сотен провайдеров моделей, с автоматическим переключением с учётом квот и сжатием токенов.
78,3 тыс.11,4 тыс.TypeScriptMITОбновлён 8 часов назад
#llm-routing
Open source проекты по теме «llm-routing»
Отобранные репозитории GitHub по теме llm-routing с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
2 репозитория
Самостоятельно размещаемый LLM-шлюз, совместимый с OpenAI: единая точка доступа к 40+ провайдерам, виртуальные ключи, бюджеты и учёт использования.
68789PythonApache-2.0Обновлён 6 часов назад