基于 Envoy 的开源控制平面,为应用提供统一的 OpenAI 兼容 API,对接托管模型、自建推理服务和 MCP 服务器。
higress-group/higress
基于 Istio 和 Envoy 的云原生 API 网关,提供面向大模型与 MCP 服务的 AI 网关能力。
- Star
- 9,619
- Fork
- 1,359
- 未关闭 Issue
- 1,404
- 最近提交
- 8小时前
这是什么?
Higress 是基于 Istio 和 Envoy 构建的云原生 API 网关,可以使用 Go、Rust 或 JS 编写的 Wasm 插件进行扩展,内置多种通用插件和可视化控制台。
在 AI 场景下,Higress 通过统一协议接入国内外主流大模型服务商,并提供 AI 可观测性、多模型负载均衡、Token 限流和缓存能力。它还能通过插件机制托管 MCP(Model Context Protocol)服务,并提供 openapi-to-mcp 工具,将 OpenAPI 规范转换为远程 MCP 服务。
作为 Kubernetes Ingress 控制器,Higress 同时支持 Ingress API 和 Gateway API;作为微服务网关,它可以对接 Nacos、ZooKeeper、Consul、Eureka 等注册中心;作为安全网关,它提供 WAF 和多种认证插件。本地可通过一条 Docker 命令启动,生产环境可用 Helm 部署到 Kubernetes。
核心功能
- 01支持使用 Go、Rust 或 JS 编写 Wasm 插件,插件可独立升级
- 02统一接入主流大模型服务,支持多模型负载均衡和 Token 限流
- 03通过插件托管 MCP 服务,并可将 OpenAPI 规范转换为 MCP 服务
- 04同时支持 Kubernetes Ingress API 和 Gateway API
- 05可对接 Nacos、ZooKeeper、Consul、Eureka 等注册中心,并集成 Dubbo 和 Sentinel
- 06内置 WAF 以及 key-auth、jwt-auth、oidc 等认证插件
适用场景
- 在多个大模型服务前部署统一网关,并提供可观测性与缓存
- 托管 MCP 服务,让 AI Agent 调用内部工具和 API
- 替代 ingress-nginx 作为 Kubernetes Ingress 控制器
- 为注册在 Nacos 或 Consul 中的微服务提供统一网关入口
快速上手
- 1
创建工作目录
mkdir higress; cd higress - 2
使用 Docker 启动 Higress(控制台 8001,网关 8080/8443)
docker run -d --rm --name higress-ai -v ${PWD}:/data -p 8001:8001 -p 8080:8080 -p 8443:8443 higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest
使用前须知
- Kubernetes 等其他安装方式需参考外部快速入门文档。
- 默认镜像仓库位于中国,在境外地区拉取镜像可能超时。
标签
常见问题
- higress 是什么?
- 基于 Istio 和 Envoy 的云原生 API 网关,提供面向大模型与 MCP 服务的 AI 网关能力。 Higress 是基于 Istio 和 Envoy 构建的云原生 API 网关,可以使用 Go、Rust 或 JS 编写的 Wasm 插件进行扩展,内置多种通用插件和可视化控制台。
- higress 可以免费使用吗?用的什么许可证?
- higress 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- higress 还在维护吗?
- 活跃维护中。higress 最近一次提交是在 2026年10月22日。
- higress 适合用来做什么?
- 在多个大模型服务前部署统一网关,并提供可观测性与缓存 托管 MCP 服务,让 AI Agent 调用内部工具和 API 替代 ingress-nginx 作为 Kubernetes Ingress 控制器 为注册在 Nacos 或 Consul 中的微服务提供统一网关入口
- higress 怎么安装和运行?
- 创建工作目录: mkdir higress; cd higress 使用 Docker 启动 Higress(控制台 8001,网关 8080/8443): docker run -d --rm --name higress-ai -v ${PWD}:/data -p 8001:8001 -p 8080:8080 -p 8443:8443 higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest
- 在哪里获取 higress?
- 源代码和安装说明在 GitHub 上:https://github.com/higress-group/higress
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
基于 Envoy 实现 Kubernetes Gateway API 的云原生 API 网关,也可用作 AI 网关。
面向 AI 智能体的开源代理,为 LLM、MCP 工具和智能体之间的通信提供安全、可观测与治理能力。
Kong 是一款云原生、与平台无关的 API、LLM 和 MCP 网关,可通过插件扩展,用于转发和保护服务流量。
用 Go 编写的高性能、无状态、声明式 API 网关,用于路由、聚合和保护对后端微服务的调用。
开源 AI 网关与注册中心,将 MCP、A2A 及 REST/gRPC API 统一到一个端点,并提供治理、发现与可观测能力。