自托管的 LLM 路由器,将简单请求分发给低成本或本地模型,复杂请求交给高级模型,兼容 OpenAI 接口。
66180PythonOther更新于 6小时前
#llm-router
与 llm-router 相关的精选 GitHub 开源仓库,附 AI 中文概要与关键数据。
自托管的 LLM 路由器,将简单请求分发给低成本或本地模型,复杂请求交给高级模型,兼容 OpenAI 接口。
面向自主智能体的 LLM 路由器,在本地为每个请求选择够用且最便宜的模型,支持 USDC 钱包或信用卡 API Key 付费。
开源 LLM 网关,通过统一的 OpenAI 兼容接口,把 AI 智能体和应用的请求路由到多家模型服务商。
面向 Claude Code、Cursor 等 AI 编程工具的自托管 LLM 网关,可跨模型路由请求并压缩工具输出以减少 token 消耗。