Repolode
提交项目
Azure-Samples

Azure-Samples/ai-hub-gateway-solution-accelerator

基于 Azure API Management 的集中式 AI API 网关解决方案加速器，用于统一治理和观测团队的 LLM 调用。

在 GitHub 查看
Star
325
Fork
214
未关闭 Issue
10
最近提交
11天前

这是什么？

Citadel Governance Hub 是一套企业级 AI landing zone，为 Azure 上各业务部门提供统一的 AI 模型与服务调用网关。项目基于 Azure API Management 构建，支持使用 Bicep 或 Terraform 部署，并通过 Logic App、Event Hub 和 Cosmos DB 处理用量数据，附带 Jupyter 笔记本用于部署后验证。

网关在运行时执行访问控制、令牌限流、内容安全和 PII 检测等策略，可将请求路由到 Microsoft Foundry、Azure OpenAI 等后端，并在提供同一模型的多个后端之间做负载均衡和故障切换。治理规则以版本化的合约形式声明：Backend Contract 定义网关可访问的模型，Access Contract 定义哪些用例可以在何种策略下调用这些模型。

该项目是 Azure 上 AI 安全与合规分层参考架构的一部分，并提供网络设计、可观测性、Power BI 成本看板和网关升级等指南。

核心功能

  • 01基于 Azure API Management 的集中式网关，统一转发 LLM 请求
  • 02在提供同一模型的多个后端之间实现负载均衡和故障切换
  • 03提供令牌限流、内容安全和 PII 检测等运行时策略
  • 04通过合约化配置接入后端、用例以及已发布的工具或智能体
  • 05借助 Logic App、Event Hub 和 Cosmos DB 处理用量数据并支持 Power BI 看板
  • 06支持使用 Bicep 或 Terraform 配合 Azure Developer CLI 部署

适用场景

  • 让多个业务部门以受治理的方式共享 Azure OpenAI 或 Foundry 模型
  • 按团队或用例统计令牌用量和成本分摊
  • 在企业 landing zone 中对 LLM 流量实施内容安全和 PII 处理
  • 通过按智能体分配的凭据，将已有智能体接入统一网关

使用前须知

  • 需要 Azure 订阅，并依赖多项 Azure 服务，包括 API Management、Event Hub、Cosmos DB、Logic Apps 和 Microsoft Foundry。
  • 部署属于较大规模的企业级 landing zone 搭建，并非快速的本地安装。
  • Publish Contracts 以及基于 Foundry 托管的 A2A 发布功能仍处于预览阶段。

收录于专题

微服务框架与服务基础设施

标签

#azure#api-gateway#llm#governance#azure-api-management#infrastructure-as-code#bicep#terraform

常见问题

ai-hub-gateway-solution-accelerator 是什么？
基于 Azure API Management 的集中式 AI API 网关解决方案加速器，用于统一治理和观测团队的 LLM 调用。 Citadel Governance Hub 是一套企业级 AI landing zone，为 Azure 上各业务部门提供统一的 AI 模型与服务调用网关。项目基于 Azure API Management 构建，支持使用 Bicep 或 Terraform 部署，并通过 Logic App、Event Hub 和 Cosmos DB 处理用量数据，附带 Jupyter 笔记本用于部署后验证。
ai-hub-gateway-solution-accelerator 可以免费使用吗？用的什么许可证？
ai-hub-gateway-solution-accelerator 以 MIT 许可证开源。用于商业产品前，请先确认许可证条款。
ai-hub-gateway-solution-accelerator 还在维护吗？
活跃维护中。ai-hub-gateway-solution-accelerator 最近一次提交是在 2026年10月27日。
ai-hub-gateway-solution-accelerator 适合用来做什么？
让多个业务部门以受治理的方式共享 Azure OpenAI 或 Foundry 模型 按团队或用例统计令牌用量和成本分摊 在企业 landing zone 中对 LLM 流量实施内容安全和 PII 处理 通过按智能体分配的凭据，将已有智能体接入统一网关
在哪里获取 ai-hub-gateway-solution-accelerator？
源代码和安装说明在 GitHub 上：https://github.com/Azure-Samples/ai-hub-gateway-solution-accelerator

概要由 AI 根据项目 README 生成；GitHub 数据每日更新。

相关项目