Repolode
제출하기
Azure-Samples

Azure-Samples/ai-hub-gateway-solution-accelerator

Azure API Management 기반 중앙 AI API 게이트웨이를 구축해 팀 전반의 LLM 접근을 거버넌스하고 관찰하는 Azure 솔루션 액셀러레이터입니다.

GitHub에서 보기
스타
325
포크
214
열린 이슈
10
마지막 커밋
10일 전

어떤 프로젝트인가요?

Citadel Governance Hub는 Azure에서 사업부 전반이 AI 모델과 서비스를 이용할 수 있도록 중앙 게이트웨이를 제공하는 엔터프라이즈 AI 랜딩 존입니다. Azure API Management를 기반으로 하며 Bicep 또는 Terraform으로 배포합니다. 사용량 데이터는 Logic Apps, Event Hub, Cosmos DB를 통해 수집하고, 배포 후 검증을 위한 Jupyter 노트북도 제공합니다.

게이트웨이는 액세스 제어, 토큰 사용량 제한, 콘텐츠 안전성, PII 탐지와 같은 런타임 정책을 적용하고, Microsoft Foundry와 Azure OpenAI 등의 백엔드로 요청을 라우팅합니다. 같은 모델을 제공하는 백엔드 간 로드 밸런싱과 장애 조치도 지원합니다. 거버넌스는 버전 관리되는 계약으로 선언합니다. 백엔드 계약은 게이트웨이가 접근할 수 있는 모델을 정의하고, 액세스 계약은 어떤 사용 사례가 어떤 정책에 따라 모델을 이용할 수 있는지 정의합니다.

이 프로젝트는 Azure의 AI 보안 및 규정 준수를 위한 계층형 참조 아키텍처의 일부이며, 네트워킹, 관찰 가능성, Power BI 비용 대시보드, 게이트웨이 업그레이드에 관한 가이드도 포함합니다.

핵심 기능

  • 01백엔드 전반의 LLM 요청을 라우팅하는 중앙 Azure API Management 게이트웨이
  • 02같은 모델을 제공하는 백엔드 간 로드 밸런싱 및 장애 조치
  • 03토큰 사용량 제한, 콘텐츠 안전성, PII 탐지 정책
  • 04계약 기반으로 백엔드, 사용 사례, 게시된 도구 또는 에이전트 온보딩
  • 05Logic Apps, Event Hub, Cosmos DB를 통한 사용량 데이터 수집 및 Power BI 대시보드
  • 06Azure Developer CLI를 사용한 Bicep 및 Terraform 배포

활용 사례

  • 여러 사업부에 공유 Azure OpenAI 또는 Foundry 모델에 대한 거버넌스 적용 액세스 제공
  • 팀 또는 사용 사례별 토큰 사용량과 비용 배분 추적
  • 엔터프라이즈 랜딩 존에서 LLM 트래픽에 콘텐츠 안전성 및 PII 처리 정책 적용
  • 에이전트별 자격 증명을 사용해 기존 에이전트를 중앙 게이트웨이에 온보딩

사용 전 알아둘 점

  • Azure 구독이 필요하며 API Management, Event Hub, Cosmos DB, Logic Apps, Microsoft Foundry 등 여러 Azure 서비스에 의존합니다.
  • 배포에는 대규모 엔터프라이즈 랜딩 존 설정이 필요하며, 로컬에서 빠르게 설치할 수 있는 방식이 아닙니다.
  • Publish Contracts와 Foundry에서 호스팅하는 A2A 게시 기능은 프리뷰 단계입니다.

포함된 컬렉션

마이크로서비스 프레임워크와 서비스 인프라

토픽

#azure#api-gateway#llm#governance#azure-api-management#infrastructure-as-code#bicep#terraform

자주 묻는 질문

ai-hub-gateway-solution-accelerator은(는) 무엇인가요?
Azure API Management 기반 중앙 AI API 게이트웨이를 구축해 팀 전반의 LLM 접근을 거버넌스하고 관찰하는 Azure 솔루션 액셀러레이터입니다. Citadel Governance Hub는 Azure에서 사업부 전반이 AI 모델과 서비스를 이용할 수 있도록 중앙 게이트웨이를 제공하는 엔터프라이즈 AI 랜딩 존입니다. Azure API Management를 기반으로 하며 Bicep 또는 Terraform으로 배포합니다. 사용량 데이터는 Logic Apps, Event Hub, Cosmos DB를 통해 수집하고, 배포 후 검증을 위한 Jupyter 노트북도 제공합니다.
ai-hub-gateway-solution-accelerator은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
ai-hub-gateway-solution-accelerator은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
ai-hub-gateway-solution-accelerator은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. ai-hub-gateway-solution-accelerator의 마지막 커밋은 2026년 10월 27일입니다.
ai-hub-gateway-solution-accelerator은(는) 어디에 사용할 수 있나요?
여러 사업부에 공유 Azure OpenAI 또는 Foundry 모델에 대한 거버넌스 적용 액세스 제공 팀 또는 사용 사례별 토큰 사용량과 비용 배분 추적 엔터프라이즈 랜딩 존에서 LLM 트래픽에 콘텐츠 안전성 및 PII 처리 정책 적용 에이전트별 자격 증명을 사용해 기존 에이전트를 중앙 게이트웨이에 온보딩
ai-hub-gateway-solution-accelerator은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/Azure-Samples/ai-hub-gateway-solution-accelerator

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트