Repolode
Предложить
Azure-Samples

Azure-Samples/ai-hub-gateway-solution-accelerator

Решение-акселератор Azure для централизованного AI API-шлюза на базе Azure API Management, который управляет доступом команд к LLM и позволяет отслеживать его.

Открыть на GitHub
Звёзды
325
Форки
214
Открытые issues
10
Последний коммит
11 дней назад

Что это?

Citadel Governance Hub — это корпоративная AI-платформа, которая предоставляет подразделениям единый шлюз для работы с AI-моделями и сервисами в Azure. Решение построено на Azure API Management и разворачивается с помощью Bicep или Terraform. Данные об использовании поступают через Logic Apps, Event Hub и Cosmos DB; после развертывания можно выполнить проверку с помощью Jupyter notebooks.

Шлюз применяет политики во время выполнения: контроль доступа, ограничение частоты запросов по токенам, безопасность контента и обнаружение PII. Он направляет запросы к таким бэкендам, как Microsoft Foundry и Azure OpenAI, а также балансирует нагрузку и переключается между бэкендами, обслуживающими одну и ту же модель. Правила управления задаются в виде контрактов с контролем версий: контракты бэкендов определяют, к каким моделям может обращаться шлюз, а контракты доступа — какие сценарии использования могут работать с этими моделями и при каких политиках.

Проект входит в многоуровневую эталонную архитектуру для обеспечения безопасности AI и соответствия требованиям в Azure. В него также входят руководства по сетевому взаимодействию, наблюдаемости, дашбордам затрат в Power BI и обновлению шлюза.

Ключевые возможности

  • 01Центральный шлюз Azure API Management для маршрутизации запросов LLM между бэкендами
  • 02Балансировка нагрузки и переключение между бэкендами, обслуживающими одну и ту же модель
  • 03Политики ограничения частоты запросов по токенам, безопасности контента и обнаружения PII
  • 04Подключение бэкендов, сценариев использования, опубликованных инструментов и агентов на основе контрактов
  • 05Сбор данных об использовании через Logic Apps, Event Hub и Cosmos DB с дашбордами Power BI
  • 06Развертывание с помощью Bicep и Terraform через Azure Developer CLI

Сценарии использования

  • Предоставление нескольким подразделениям управляемого доступа к общим моделям Azure OpenAI или Foundry
  • Отслеживание использования токенов и распределение затрат по командам или сценариям использования
  • Применение политик безопасности контента и обработки PII к трафику LLM в корпоративной AI-платформе
  • Подключение существующих агентов к центральному шлюзу с использованием отдельных учетных данных для каждого агента

Что важно знать

  • Требуется подписка Azure; решение зависит от нескольких служб Azure, включая API Management, Event Hub, Cosmos DB, Logic Apps и Microsoft Foundry.
  • Развертывание предполагает масштабную настройку корпоративной landing zone — это не быстрая локальная установка.
  • Publish Contracts и публикация A2A, размещенная в Foundry, находятся в предварительной версии.

В подборках

Фреймворки микросервисов и инфраструктура сервисов

Темы

#azure#api-gateway#llm#governance#azure-api-management#infrastructure-as-code#bicep#terraform

Частые вопросы

Что такое ai-hub-gateway-solution-accelerator?
Решение-акселератор Azure для централизованного AI API-шлюза на базе Azure API Management, который управляет доступом команд к LLM и позволяет отслеживать его. Citadel Governance Hub — это корпоративная AI-платформа, которая предоставляет подразделениям единый шлюз для работы с AI-моделями и сервисами в Azure. Решение построено на Azure API Management и разворачивается с помощью Bicep или Terraform. Данные об использовании поступают через Logic Apps, Event Hub и Cosmos DB; после развертывания можно выполнить проверку с помощью Jupyter notebooks.
ai-hub-gateway-solution-accelerator можно использовать бесплатно? Какая у него лицензия?
ai-hub-gateway-solution-accelerator распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
ai-hub-gateway-solution-accelerator всё ещё поддерживается?
Активно поддерживается. Последний коммит в ai-hub-gateway-solution-accelerator — 27 окт. 2026 г..
Для чего можно использовать ai-hub-gateway-solution-accelerator?
Предоставление нескольким подразделениям управляемого доступа к общим моделям Azure OpenAI или Foundry Отслеживание использования токенов и распределение затрат по командам или сценариям использования Применение политик безопасности контента и обработки PII к трафику LLM в корпоративной AI-платформе Подключение существующих агентов к центральному шлюзу с использованием отдельных учетных данных для каждого агента
Где скачать ai-hub-gateway-solution-accelerator?
Исходный код и инструкции по установке — на GitHub: https://github.com/Azure-Samples/ai-hub-gateway-solution-accelerator

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

microsoft / Multi-Agent-Custom-Automation-Engine-Solution-Accelerator

Референсный акселератор на базе Azure: специализированные AI-агенты планируют и выполняют задачи, заданные пользователем, используя Microsoft Agent Framework и Azure AI Foundry.

ИИ и машинное обучение#multi-agent#ai-agents#azure
895+3 за неделю857PythonMITАктивно поддерживаетсяОбновлён 3 дня назад