“llm-routing” 相关开源项目

一个 MIT 开源的 AI 网关，通过统一端点接入数百家模型服务商，支持配额感知的自动降级与 Token 压缩。

可自托管的 OpenAI 兼容 LLM 网关，通过单一端点接入 40 多家模型服务商，并提供虚拟密钥、预算与用量统计。