Open source control plane на базе Envoy предоставляет приложениям единый OpenAI-совместимый API для hosted LLM-провайдеров, self-hosted inference и MCP-серверов.
higress-group/higress
Облачный API-шлюз на базе Istio и Envoy с функциями AI-шлюза для LLM-провайдеров и размещения MCP-серверов.
- Звёзды
- 9,619
- Форки
- 1,359
- Открытые issues
- 1,404
- Последний коммит
- 8 часов назад
Что это?
Higress — облачный API-шлюз на базе Istio и Envoy. Его можно расширять с помощью Wasm-плагинов на Go, Rust или JS. В комплект входят универсальные плагины и встроенная консоль управления.
Для работы с AI Higress подключается к популярным отечественным и зарубежным провайдерам моделей через единый протокол и предоставляет инструменты наблюдаемости, балансировку нагрузки между моделями, ограничение скорости запросов по токенам и кэширование. Механизм плагинов также позволяет размещать MCP-серверы (Model Context Protocol). Кроме того, в состав входит инструмент openapi-to-mcp, который преобразует спецификации OpenAPI в удалённые MCP-серверы.
Higress может работать как Ingress-контроллер Kubernetes с поддержкой Ingress API и Gateway API, как микросервисный шлюз с обнаружением сервисов в реестрах Nacos, ZooKeeper, Consul и Eureka или как шлюз безопасности с WAF и плагинами аутентификации. Для локального запуска достаточно одной команды Docker, а для развёртывания в Kubernetes можно использовать Helm.
Ключевые возможности
- 01Расширение с помощью Wasm-плагинов на Go, Rust или JS с изоляцией в песочнице и независимым обновлением плагинов
- 02Единый доступ к популярным LLM-провайдерам, балансировка нагрузки между моделями и ограничение скорости запросов по токенам
- 03Размещение MCP-серверов и преобразование спецификаций OpenAPI с помощью openapi-to-mcp
- 04Поддержка Kubernetes Ingress API и Gateway API
- 05Обнаружение сервисов в Nacos, ZooKeeper, Consul и Eureka, а также интеграция с Dubbo и Sentinel
- 06Встроенные WAF и плагины аутентификации, такие как key-auth, jwt-auth и oidc
Сценарии использования
- Размещение единого шлюза перед несколькими LLM-провайдерами с поддержкой наблюдаемости и кэширования
- Размещение MCP-серверов, чтобы AI-агенты могли вызывать внутренние инструменты и API
- Замена ingress-nginx в роли Ingress-контроллера Kubernetes
- Использование в качестве микросервисного шлюза для сервисов, зарегистрированных в Nacos или Consul
Быстрый старт
- 1
Создайте рабочую директорию
mkdir higress; cd higress - 2
Запустите Higress с помощью Docker (интерфейс на порту 8001, шлюз на портах 8080/8443)
docker run -d --rm --name higress-ai -v ${PWD}:/data -p 8001:8001 -p 8080:8080 -p 8443:8443 higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest
Что важно знать
- Для установки в Kubernetes и другими способами следуйте внешней документации по быстрому запуску.
- Реестр образов по умолчанию находится в Китае, поэтому за пределами региона при загрузке могут возникать тайм-ауты.
Темы
Частые вопросы
- Что такое higress?
- Облачный API-шлюз на базе Istio и Envoy с функциями AI-шлюза для LLM-провайдеров и размещения MCP-серверов. Higress — облачный API-шлюз на базе Istio и Envoy. Его можно расширять с помощью Wasm-плагинов на Go, Rust или JS. В комплект входят универсальные плагины и встроенная консоль управления.
- higress можно использовать бесплатно? Какая у него лицензия?
- higress распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- higress всё ещё поддерживается?
- Активно поддерживается. Последний коммит в higress — 22 окт. 2026 г..
- Для чего можно использовать higress?
- Размещение единого шлюза перед несколькими LLM-провайдерами с поддержкой наблюдаемости и кэширования Размещение MCP-серверов, чтобы AI-агенты могли вызывать внутренние инструменты и API Замена ingress-nginx в роли Ingress-контроллера Kubernetes Использование в качестве микросервисного шлюза для сервисов, зарегистрированных в Nacos или Consul
- Как установить higress?
- Создайте рабочую директорию: mkdir higress; cd higress Запустите Higress с помощью Docker (интерфейс на порту 8001, шлюз на портах 8080/8443): docker run -d --rm --name higress-ai -v ${PWD}:/data -p 8001:8001 -p 8080:8080 -p 8443:8443 higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest
- Где скачать higress?
- Исходный код и инструкции по установке — на GitHub: https://github.com/higress-group/higress
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Нативный для Kubernetes API-шлюз на базе Envoy, реализующий Gateway API и поддерживающий сценарии использования AI-шлюза.
Открытый прокси для ИИ-агентов, который обеспечивает безопасность, наблюдаемость и управление трафиком к LLM, MCP-инструментам и между агентами.
Kong — облачный, платформонезависимый API-, LLM- и MCP-шлюз с поддержкой плагинов для маршрутизации и защиты трафика сервисов.
Высокопроизводительный декларативный API Gateway без состояния на Go для маршрутизации, агрегации и защиты запросов к бэкенд-микросервисам.
Открытый AI-шлюз и реестр, объединяющий MCP, A2A и REST/gRPC API за одной точкой доступа с управлением, обнаружением и мониторингом.