Envoy 기반 오픈소스 컨트롤 플레인으로, 호스팅 LLM 제공업체와 셀프 호스팅 추론 환경, MCP 서버를 하나의 OpenAI 호환 API로 연결합니다.
higress-group/higress
Istio와 Envoy 기반의 클라우드 네이티브 API 게이트웨이로, LLM 제공자와 MCP 서버 호스팅을 위한 AI 게이트웨이 기능을 제공합니다.
- 스타
- 9,619
- 포크
- 1,359
- 열린 이슈
- 1,404
- 마지막 커밋
- 3시간 전
어떤 프로젝트인가요?
Higress는 Istio와 Envoy를 기반으로 하는 클라우드 네이티브 API 게이트웨이입니다. Go, Rust 또는 JS로 작성한 Wasm 플러그인으로 확장할 수 있으며, 범용 플러그인 모음과 기본 제공 관리 콘솔을 갖추고 있습니다.
AI 분야에서는 통합 프로토콜을 통해 국내외 주요 모델 제공자에 연결하고, AI 옵저버빌리티, 멀티 모델 로드 밸런싱, 토큰 속도 제한, 캐싱 기능을 제공합니다. 플러그인 메커니즘을 통해 MCP(Model Context Protocol) 서버를 호스팅할 수도 있으며, OpenAPI 사양을 원격 MCP 서버로 변환하는 openapi-to-mcp 도구도 포함합니다.
Higress는 Ingress API와 Gateway API를 지원하는 Kubernetes 인그레스 컨트롤러, Nacos, ZooKeeper, Consul, Eureka 등의 레지스트리에서 서비스를 검색하는 마이크로서비스 게이트웨이, 또는 WAF 및 인증 플러그인을 갖춘 보안 게이트웨이로 사용할 수 있습니다. 로컬에서는 단일 Docker 명령으로 실행할 수 있고, Kubernetes에는 Helm으로 배포할 수 있습니다.
핵심 기능
- 01샌드박스 격리와 플러그인별 독립 업그레이드를 지원하는 Go, Rust 또는 JS 기반 Wasm 플러그인 확장
- 02멀티 모델 로드 밸런싱과 토큰 속도 제한 기능을 갖춘 주요 LLM 제공자 통합 연결
- 03MCP 서버 호스팅 및 OpenAPI 사양을 위한 openapi-to-mcp 변환
- 04Kubernetes Ingress API와 Gateway API 모두 지원
- 05Nacos, ZooKeeper, Consul, Eureka에서 서비스 검색 및 Dubbo, Sentinel과 연동
- 06key-auth, jwt-auth, oidc 등의 WAF 및 인증 플러그인 기본 제공
활용 사례
- 옵저버빌리티와 캐싱 기능을 갖춘 통합 게이트웨이를 여러 LLM 제공자 앞에 배치
- AI 에이전트가 내부 도구와 API를 호출할 수 있도록 MCP 서버 호스팅
- Kubernetes 인그레스 컨트롤러로 ingress-nginx 대체
- Nacos 또는 Consul에 등록된 서비스를 위한 마이크로서비스 게이트웨이로 활용
토픽
자주 묻는 질문
- higress은(는) 무엇인가요?
- Istio와 Envoy 기반의 클라우드 네이티브 API 게이트웨이로, LLM 제공자와 MCP 서버 호스팅을 위한 AI 게이트웨이 기능을 제공합니다. Higress는 Istio와 Envoy를 기반으로 하는 클라우드 네이티브 API 게이트웨이입니다. Go, Rust 또는 JS로 작성한 Wasm 플러그인으로 확장할 수 있으며, 범용 플러그인 모음과 기본 제공 관리 콘솔을 갖추고 있습니다.
- higress은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- higress은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- higress은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. higress의 마지막 커밋은 2026년 10월 22일입니다.
- higress은(는) 어디에 사용할 수 있나요?
- 옵저버빌리티와 캐싱 기능을 갖춘 통합 게이트웨이를 여러 LLM 제공자 앞에 배치 AI 에이전트가 내부 도구와 API를 호출할 수 있도록 MCP 서버 호스팅 Kubernetes 인그레스 컨트롤러로 ingress-nginx 대체 Nacos 또는 Consul에 등록된 서비스를 위한 마이크로서비스 게이트웨이로 활용
- higress은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/higress-group/higress
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
Envoy 기반으로 Kubernetes Gateway API를 구현하고 AI 게이트웨이 사용 사례를 지원하는 Kubernetes 네이티브 API 게이트웨이입니다.
LLM, MCP 도구 및 에이전트 간 트래픽에 보안, 관측성, 거버넌스를 제공하는 오픈소스 AI 에이전트 프록시입니다.
Kong은 플러그인으로 확장할 수 있는 클라우드 네이티브·플랫폼 독립형 API, LLM 및 MCP 게이트웨이로, 서비스 트래픽을 라우팅하고 보호합니다.
Go로 작성된 고성능·무상태·선언형 API Gateway로, 백엔드 마이크로서비스 호출의 라우팅, 집계 및 보안을 담당합니다.
거버넌스, 검색, 관측 기능을 갖춘 오픈소스 AI 게이트웨이 및 레지스트리로, MCP, A2A, REST/gRPC API를 단일 엔드포인트로 통합합니다.