agent-router은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

agent-router은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

agent-router은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. agent-router의 마지막 커밋은 2026년 10월 20일입니다.

agent-router은(는) 어디에 사용할 수 있나요?

애플리케이션 팀이 여러 LLM 제공업체에 하나의 API 키와 엔드포인트로 접근하도록 지원합니다. 조직 전반의 AI 트래픽에 대한 속도 제한, 쿼터, 사용량 추적을 중앙화합니다. Kubernetes에서 호스팅 모델과 셀프 호스팅 추론 클러스터 간에 요청을 라우팅합니다. 개발 환경에서 aigw run으로 로컬 OpenAI 호환 엔드포인트를 실행합니다.

agent-router는 어떻게 설치하나요?

OpenAI 키를 사용해 노트북에서 Agent Router를 독립 실행합니다: OPENAI_API_KEY=sk-your-key aigw run OpenAI 호환 클라이언트가 로컬 엔드포인트 http://localhost:1975/v1 을 가리키도록 설정합니다 설치 및 프로바이더 자동 구성 방법은 CLI 가이드를 참조하세요

agent-router은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/theagentrouter/agent-router

theagentrouter/agent-router

Envoy 기반 오픈소스 컨트롤 플레인으로, 호스팅 LLM 제공업체와 셀프 호스팅 추론 환경, MCP 서버를 하나의 OpenAI 호환 API로 연결합니다.

GitHub에서 보기 웹사이트

스타: 2,250
포크: 423
열린 이슈: 368
마지막 커밋: 8시간 전

어떤 프로젝트인가요?

Agent Router는 AI 및 에이전트 트래픽을 위한 게이트웨이입니다. 애플리케이션 팀은 호스팅 제공업체, 셀프 호스팅 추론 클러스터, MCP 서버 중 무엇을 사용하든 하나의 OpenAI 호환 API를 호출하면 됩니다. 플랫폼 팀은 자격 증명, 라우팅, 쿼터, 장애 조치, 사용량 귀속을 한곳에서 관리하고, 정책 적용은 Envoy와 Envoy Gateway가 담당합니다.

이 프로젝트는 이전에 Envoy AI Gateway로 알려졌으며, 기존 CRD, API 그룹, CLI 이름, 컨테이너 이미지를 그대로 유지합니다. 노트북에서는 aigw CLI로 localhost에서 독립형 OpenAI 호환 라우터를 실행할 수 있습니다. Kubernetes에서는 AIGatewayRoute와 AIServiceBackend 같은 커스텀 리소스를 사용해 Envoy Gateway를 통해 배포합니다.

프로젝트는 2계층 패턴을 제시합니다. Tier One 게이트웨이는 인증, 최상위 라우팅, 전역 속도 제한을 처리하고, Tier Two 게이트웨이는 셀프 호스팅 모델 서빙 클러스터에 대한 접근을 제어하며 추론 최적화를 위한 endpoint picker를 지원합니다.

핵심 기능

01여러 모델 제공업체 앞단에 하나의 OpenAI 호환 API를 제공합니다.
02OpenAI, Anthropic, AWS Bedrock, Google Gemini 같은 호스팅 제공업체와 셀프 호스팅 추론을 지원합니다.
03자격 증명, 라우팅, 쿼터, 장애 조치를 중앙에서 관리합니다.
04aigw CLI로 노트북에서 독립 실행하거나 Envoy Gateway를 통해 Kubernetes에서 실행할 수 있습니다.
05셀프 호스팅 모델을 위한 endpoint picker를 지원하는 2계층 게이트웨이 패턴을 제공합니다.

활용 사례

애플리케이션 팀이 여러 LLM 제공업체에 하나의 API 키와 엔드포인트로 접근하도록 지원합니다.
조직 전반의 AI 트래픽에 대한 속도 제한, 쿼터, 사용량 추적을 중앙화합니다.
Kubernetes에서 호스팅 모델과 셀프 호스팅 추론 클러스터 간에 요청을 라우팅합니다.
개발 환경에서 aigw run으로 로컬 OpenAI 호환 엔드포인트를 실행합니다.

빠른 시작

1
OpenAI 키를 사용해 노트북에서 Agent Router를 독립 실행합니다
OPENAI_API_KEY=sk-your-key aigw run
2
OpenAI 호환 클라이언트가 로컬 엔드포인트 http://localhost:1975/v1 을 가리키도록 설정합니다
3
설치 및 프로바이더 자동 구성 방법은 CLI 가이드를 참조하세요

사용 전 알아둘 점

README에는 패키지 관리자 설치 명령이 없습니다. 설치 방법은 외부 CLI 가이드에 설명되어 있습니다.
Kubernetes에 배포하려면 Envoy Gateway가 필요하며, 별도의 더 복잡한 설정이 요구됩니다.

토픽

#llm #api-gateway #envoy #kubernetes #inference #openai-compatible #mcp #ai #ai-gateway #envoyproxy

자주 묻는 질문

agent-router은(는) 무엇인가요?: Envoy 기반 오픈소스 컨트롤 플레인으로, 호스팅 LLM 제공업체와 셀프 호스팅 추론 환경, MCP 서버를 하나의 OpenAI 호환 API로 연결합니다. Agent Router는 AI 및 에이전트 트래픽을 위한 게이트웨이입니다. 애플리케이션 팀은 호스팅 제공업체, 셀프 호스팅 추론 클러스터, MCP 서버 중 무엇을 사용하든 하나의 OpenAI 호환 API를 호출하면 됩니다. 플랫폼 팀은 자격 증명, 라우팅, 쿼터, 장애 조치, 사용량 귀속을 한곳에서 관리하고, 정책 적용은 Envoy와 Envoy Gateway가 담당합니다.
agent-router은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?: agent-router은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
agent-router은(는) 아직 유지보수되고 있나요?: 활발히 유지보수 중. agent-router의 마지막 커밋은 2026년 10월 20일입니다.
agent-router은(는) 어디에 사용할 수 있나요?: 애플리케이션 팀이 여러 LLM 제공업체에 하나의 API 키와 엔드포인트로 접근하도록 지원합니다. 조직 전반의 AI 트래픽에 대한 속도 제한, 쿼터, 사용량 추적을 중앙화합니다. Kubernetes에서 호스팅 모델과 셀프 호스팅 추론 클러스터 간에 요청을 라우팅합니다. 개발 환경에서 aigw run으로 로컬 OpenAI 호환 엔드포인트를 실행합니다.
agent-router는 어떻게 설치하나요?: OpenAI 키를 사용해 노트북에서 Agent Router를 독립 실행합니다: OPENAI_API_KEY=sk-your-key aigw run OpenAI 호환 클라이언트가 로컬 엔드포인트 http://localhost:1975/v1 을 가리키도록 설정합니다 설치 및 프로바이더 자동 구성 방법은 CLI 가이드를 참조하세요
agent-router은(는) 어디서 받을 수 있나요?: 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/theagentrouter/agent-router

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.