开源 AI 网关,通过统一的 OpenAI 兼容 API 接入 20 多家大模型服务,支持故障转移、负载均衡与语义缓存。
89191422GoApache-2.0更新于 5小时前
#llm-gateway
与 llm-gateway 相关的精选 GitHub 开源仓库,附 AI 中文概要与关键数据。
开源 AI 网关,通过统一的 OpenAI 兼容 API 接入 20 多家大模型服务,支持故障转移、负载均衡与语义缓存。
本地模型网关,让 Claude Code、Codex、OpenCode 等编程智能体共用一个端点,并在多个模型服务商之间路由请求。
本地 MCP 服务器,可将提示词路由到 ChatGPT、Claude、Gemini、Perplexity 网页会话或 BYOK/本地模型,供编辑器调用。