Rust 기반의 엔진 독립형 LLM 게이트웨이로, OpenAI 및 Anthropic 호환 트래픽을 자체 호스팅 추론 엔진과 클라우드 모델 제공업체로 라우팅합니다.
633195RustApache-2.0업데이트 4시간 전
#inference-gateway
“inference-gateway” 관련 오픈소스 프로젝트
inference-gateway 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
#inference-gateway
inference-gateway 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
Rust 기반의 엔진 독립형 LLM 게이트웨이로, OpenAI 및 Anthropic 호환 트래픽을 자체 호스팅 추론 엔진과 클라우드 모델 제공업체로 라우팅합니다.