40개 이상의 제공업체를 하나의 엔드포인트로 연결하는 셀프 호스팅 OpenAI 호환 LLM 게이트웨이
diegosouzapw/OmniRoute
수백 개 모델 제공업체를 하나의 OpenAI 호환 엔드포인트로 연결하는 자체 호스팅 MIT AI 게이트웨이
대체할 수 있는 제품:OpenRouter
- 스타
- 78,298
- 포크
- 11,374
- 열린 이슈
- 236
- 마지막 커밋
- 11시간 전
어떤 프로젝트인가요?
OmniRoute는 코딩 도구와 모델 제공업체 사이에서 동작하는 자체 호스팅 AI 게이트웨이입니다. Claude Code, Codex, Cursor, Cline, GitHub Copilot 같은 도구는 localhost:20128/v1의 로컬 엔드포인트 하나로 요청을 보내고, OmniRoute가 설정된 제공업체로 전달합니다. Claude, GPT, Gemini, Kimi, GLM, DeepSeek, MiniMax를 비롯한 다양한 제공업체와 모델을 지원합니다.
제공업체의 요청 제한에 걸리거나 할당량이 소진되거나 오류가 발생하면, OmniRoute가 요청을 다음으로 사용 가능한 대상으로 넘길 수 있습니다. 라우팅은 20가지 전략을 지원하는 콤보 단위로 구성되며, 연결된 제공업체의 상태를 실시간으로 점수화하는 auto 모드도 있습니다. 내장 서킷 브레이커, 연결별 쿨다운, 모델별 잠금 기능으로 장애를 격리합니다. 선택적으로 RTK와 Caveman 압축을 사용해 요청을 보내기 전에 도구 출력과 프롬프트 크기를 줄일 수 있습니다.
대시보드, MCP 서버, A2A 지원과 데스크톱 및 PWA 빌드도 포함되어 있습니다. 사용자는 자신의 제공업체 계정이나 API 키를 사용하며, 무료 티어의 이용 가능 여부는 각 제공업체의 약관에 따라 달라집니다.
핵심 기능
- 01여러 모델 제공업체를 연결하는 단일 OpenAI 호환 엔드포인트
- 02할당량, 요청 제한 또는 오류가 발생할 때 제공업체 간 자동 폴백
- 03콤보별로 설정할 수 있는 20가지 라우팅 전략과 auto 모드
- 04토큰 사용량을 줄이는 선택형 RTK 및 Caveman 압축
- 05내장 MCP 서버 및 A2A 프로토콜 지원
- 06웹 대시보드, 데스크톱 앱 및 PWA
활용 사례
- Claude Code, Cursor 또는 Cline을 로컬 엔드포인트 하나에 연결해 제공업체를 바꿔 가며 사용
- 한 제공업체의 요청 제한에 걸려도 코딩 세션을 계속 진행
- 사용량 제한을 두고 소규모 팀에서 제공업체 키 공유
- 하나의 API 뒤에서 여러 모델의 요청을 비교하거나 라우팅
빠른 시작
- 1
README의 설명에 따라 npm 패키지 omniroute에서 OmniRoute를 설치하거나 Docker Hub 이미지를 사용하세요
사용 전 알아둘 점
- 프로바이더 계정과 인증 정보는 직접 준비해야 하며, 무료 이용 한도와 약관은 프로바이더마다 다릅니다.
- 눈에 띄게 표시된 토큰 수치는 서드파티 무료 이용 한도를 기준으로 한 추정치이며, 언제든지 변경되거나 종료될 수 있습니다.
토픽
자주 묻는 질문
- OmniRoute은(는) 무엇인가요?
- 수백 개 모델 제공업체를 하나의 OpenAI 호환 엔드포인트로 연결하는 자체 호스팅 MIT AI 게이트웨이 OmniRoute는 코딩 도구와 모델 제공업체 사이에서 동작하는 자체 호스팅 AI 게이트웨이입니다. Claude Code, Codex, Cursor, Cline, GitHub Copilot 같은 도구는 localhost:20128/v1의 로컬 엔드포인트 하나로 요청을 보내고, OmniRoute가 설정된 제공업체로 전달합니다. Claude, GPT, Gemini, Kimi, GLM, DeepSeek, MiniMax를 비롯한 다양한 제공업체와 모델을 지원합니다.
- OmniRoute은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- OmniRoute은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- OmniRoute은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. OmniRoute의 마지막 커밋은 2026년 10월 19일입니다.
- OmniRoute은(는) 어디에 사용할 수 있나요?
- Claude Code, Cursor 또는 Cline을 로컬 엔드포인트 하나에 연결해 제공업체를 바꿔 가며 사용 한 제공업체의 요청 제한에 걸려도 코딩 세션을 계속 진행 사용량 제한을 두고 소규모 팀에서 제공업체 키 공유 하나의 API 뒤에서 여러 모델의 요청을 비교하거나 라우팅
- OmniRoute는 어떻게 설치하나요?
- README의 설명에 따라 npm 패키지 omniroute에서 OmniRoute를 설치하거나 Docker Hub 이미지를 사용하세요
- OmniRoute은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/diegosouzapw/OmniRoute
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
23개 이상의 LLM 제공업체를 하나의 OpenAI 호환 API로 연결하는 오픈소스 AI 게이트웨이
시각적 캔버스, 사용자 코드, 1,500개 이상의 연동을 활용해 AI 에이전트와 워크플로를 만드는 fair-code 자동화 플랫폼
Claude Code, Codex, Gemini CLI 등 코딩 에이전트에서 모든 제공자와 구독의 모델을 쓰게 해주는 로컬 게이트웨이 및 메뉴 바 앱입니다.
각 에이전트에 전용 브라우저·파일·도구를 제공하고 모든 작업을 정책으로 제어하고 기록하는 셀프 호스팅 AI 동료 플랫폼입니다.
인증 정보를 넘기지 않고 AI 에이전트가 SDK, CLI, MCP, HTTP, OpenAPI로 1,000개 이상의 SaaS를 호출하게 해주는 셀프 호스팅 인증 게이트웨이입니다.