Repolode
제출하기
Azure-Samples

Azure-Samples/AI-Gateway

Azure API Management의 AI Gateway를 통해 AI 모델, MCP 도구, 에이전트를 관리하는 실습용 Jupyter 랩 모음입니다.

GitHub에서 보기웹사이트
스타
1,008
포크
520
열린 이슈
84
마지막 커밋
그저께

어떤 프로젝트인가요?

AI Gateway Labs는 Azure API Management를 AI 모델, 도구, 에이전트 앞단에 배치하는 방법을 보여 주는 실습용 Jupyter 노트북 모음입니다. 각 랩에는 단계별 안내, Bicep 인프라 템플릿, Azure 구독에 배포할 수 있는 APIM 정책이 포함되어 있습니다.

랩은 세 가지 영역을 다룹니다. 모델 관련 랩에서는 백엔드 풀 부하 분산, 토큰 속도 제한, 시맨틱 캐싱, 모델 라우팅, FinOps 예산 프레임워크를 보여 줍니다. 도구 관련 랩에서는 OAuth를 사용한 MCP 서버 접근, MCP 클라이언트 권한 부여, Azure Functions를 통한 함수 호출, MCP와 결합한 실시간 오디오를 다룹니다. 에이전트 관련 랩에는 Foundry Agent Service, OpenAI Agents SDK, MCP를 사용하는 Gemini, A2A를 지원하는 에이전트 예제가 포함됩니다.

이 저장소에는 트레이싱 도구, 스트리밍 테스터, 속도 제한 테스터, OpenAI API 모의 서버, OAuth 클라이언트와 같은 개발자 유틸리티와 새 랩을 생성하기 위한 Copilot 에이전트 스킬도 포함되어 있습니다.

핵심 기능

  • 01모델, 도구, 에이전트 게이트웨이 시나리오를 다루는 실습용 노트북
  • 02Azure 배포용 Bicep 템플릿 및 APIM 정책 XML
  • 03토큰 속도 제한, 시맨틱 캐싱, 백엔드 부하 분산 예제
  • 04OAuth를 통한 MCP 서버 접근 및 클라이언트 권한 부여 흐름
  • 05OpenAI API 모의 서버와 속도 제한 테스터를 비롯한 개발자 유틸리티

활용 사례

  • 내부 팀에 LLM API를 공개하기 전에 속도 제한과 비용 제어 추가
  • 중앙 집중식 OAuth 자격 증명 관리로 MCP 도구를 에이전트에 연결
  • Azure OpenAI 배포에서 시맨틱 캐싱 또는 멀티 백엔드 라우팅 평가
  • 엔터프라이즈 API 게이트웨이로 AI 에이전트와 도구를 관리하는 방법 학습

빠른 시작

  1. 1

    README의 공식 설치 스크립트를 사용해 uv를 설치합니다(Linux/macOS).

  2. 2

    리포지토리를 클론합니다.

    git clone https://github.com/Azure-Samples/AI-Gateway.git
  3. 3

    프로젝트 폴더로 이동해 종속성이 포함된 가상 환경을 만듭니다.

    cd AI-Gateway && uv sync
  4. 4

    VS Code를 열고 .venv 커널을 선택해 실습 노트북을 시작합니다.

    code .

사용 전 알아둘 점

  • 실습에서 Azure 구독에 리소스를 배포하므로 Contributor 및 RBAC Administrator 역할이 있는 Azure 계정이 필요합니다.
  • Azure CLI와 Jupyter 확장이 설치된 VS Code가 필요합니다.
  • 실습은 Azure 전용이며 독립형 클라우드 비종속 게이트웨이가 아닙니다.

포함된 컬렉션

오픈소스 AI 에이전트 프레임워크와 앱MCP 서버마이크로서비스 프레임워크와 서비스 인프라

토픽

#api-gateway#azure-api-management#llm#mcp#ai-agents#rate-limiting#semantic-caching#jupyter#a2a#agents

자주 묻는 질문

AI-Gateway은(는) 무엇인가요?
Azure API Management의 AI Gateway를 통해 AI 모델, MCP 도구, 에이전트를 관리하는 실습용 Jupyter 랩 모음입니다. AI Gateway Labs는 Azure API Management를 AI 모델, 도구, 에이전트 앞단에 배치하는 방법을 보여 주는 실습용 Jupyter 노트북 모음입니다. 각 랩에는 단계별 안내, Bicep 인프라 템플릿, Azure 구독에 배포할 수 있는 APIM 정책이 포함되어 있습니다.
AI-Gateway은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
AI-Gateway은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
AI-Gateway은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. AI-Gateway의 마지막 커밋은 2026년 11월 5일입니다.
AI-Gateway은(는) 어디에 사용할 수 있나요?
내부 팀에 LLM API를 공개하기 전에 속도 제한과 비용 제어 추가 중앙 집중식 OAuth 자격 증명 관리로 MCP 도구를 에이전트에 연결 Azure OpenAI 배포에서 시맨틱 캐싱 또는 멀티 백엔드 라우팅 평가 엔터프라이즈 API 게이트웨이로 AI 에이전트와 도구를 관리하는 방법 학습
AI-Gateway는 어떻게 설치하나요?
README의 공식 설치 스크립트를 사용해 uv를 설치합니다(Linux/macOS). 리포지토리를 클론합니다.: git clone https://github.com/Azure-Samples/AI-Gateway.git 프로젝트 폴더로 이동해 종속성이 포함된 가상 환경을 만듭니다.: cd AI-Gateway && uv sync VS Code를 열고 .venv 커널을 선택해 실습 노트북을 시작합니다.: code .
AI-Gateway은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/Azure-Samples/AI-Gateway

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트