20개 이상의 LLM 제공업체를 하나의 OpenAI 호환 API로 연결하는 오픈소스 AI 게이트웨이
8.9천1.4천GoApache-2.0업데이트 8시간 전
#load-balancing
load-balancing 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
20개 이상의 LLM 제공업체를 하나의 OpenAI 호환 API로 연결하는 오픈소스 AI 게이트웨이
NGINX와 etcd 기반의 클라우드 네이티브 API 및 AI 게이트웨이로, 동적 라우팅과 플러그인 핫 로딩을 지원합니다.
설정 파일을 직접 편집하지 않고 nginx 가상 호스트, 스트림, SSL 인증서와 라우팅을 관리하는 웹 기반 GUI입니다.