labring/aiproxy

어떤 프로젝트인가요?

핵심 기능

• 01OpenAI, Claude, Gemini 프로토콜을 받아 Responses API만 지원하는 모델에 맞게 변환
• 02우선순위 기반 채널 선택, 재시도, 제공업체 간 로드 밸런싱
• 03RPM/TPM 제한, 할당량, 모델별 사용자 지정 가격을 설정할 수 있는 멀티 테넌트 그룹
• 04요청 로그, 오류율 분석, 비용 통계를 제공하는 관리 패널
• 05캐싱, 웹 검색, 추론 콘텐츠 분리, 스트리밍 폴백 플러그인

활용 사례

• 여러 모델 제공업체 앞에 내부 애플리케이션이 함께 사용할 OpenAI 스타일 엔드포인트 제공
• Claude Code, Gemini CLI, Codex 같은 도구가 로컬 프록시를 통해 다른 제공업체의 모델을 사용하도록 구성
• 하나의 게이트웨이에서 여러 팀이나 고객의 API 접근, 할당량, 청구 관리

빠른 시작

1. 1

   Docker로 AI Proxy 실행하기(기본 구성)

   docker run -d \ --name aiproxy \ -p 3000:3000 \ -v $(pwd)/aiproxy:/aiproxy \ -e ADMIN_KEY=your-admin-key \ ghcr.io/labring/aiproxy:latest
2. 2

   localhost:3000에서 관리 패널과 API 탐색기를 엽니다(Swagger는 /swagger/index.html)

사용 전 알아둘 점

• !소스에서 빌드하려면 Go 1.24 이상이 필요하며, 선택적 프런트엔드에는 Node.js 22 이상이 필요합니다.
• !설정에 많은 환경 변수가 사용되므로 초기 설정에 다소 시간이 걸립니다.

토픽

자주 묻는 질문

aiproxy은(는) 무엇인가요?

여러 업스트림 모델 채널로 요청을 라우팅하고 OpenAI, Claude, Gemini 호환 엔드포인트를 제공하는 Go 기반 AI 게이트웨이입니다. AI Proxy는 애플리케이션과 AI 모델 제공업체 사이에서 동작하는 게이트웨이입니다. 클라이언트는 OpenAI Chat Completions, Claude Messages 또는 Gemini 프로토콜로 요청을 보내고, 프록시는 우선순위 기반 선택, 오류 발생 시 재시도, 제공업체 간 로드 밸런싱을 적용해 설정된 업스트림 채널로 요청을 전달합니다.

aiproxy은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

aiproxy은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

aiproxy은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. aiproxy의 마지막 커밋은 2026년 10월 12일입니다.

aiproxy은(는) 어디에 사용할 수 있나요?

여러 모델 제공업체 앞에 내부 애플리케이션이 함께 사용할 OpenAI 스타일 엔드포인트 제공 Claude Code, Gemini CLI, Codex 같은 도구가 로컬 프록시를 통해 다른 제공업체의 모델을 사용하도록 구성 하나의 게이트웨이에서 여러 팀이나 고객의 API 접근, 할당량, 청구 관리

aiproxy는 어떻게 설치하나요?

Docker로 AI Proxy 실행하기(기본 구성): docker run -d \ --name aiproxy \ -p 3000:3000 \ -v $(pwd)/aiproxy:/aiproxy \ -e ADMIN_KEY=your-admin-key \ ghcr.io/labring/aiproxy:latest localhost:3000에서 관리 패널과 API 탐색기를 엽니다(Swagger는 /swagger/index.html)

aiproxy은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/labring/aiproxy