여러 LLM 공급자(OpenAI, Claude, Gemini, DeepSeek, Qwen 등)를 통합 API 하나로 연동하는 셀프 호스팅 관리 시스템입니다.
iimeta/fastapi
여러 LLM 제공업체(OpenAI, Claude, Gemini, DeepSeek, Qwen 등)를 하나의 OpenAI 호환 API로 제공하는 셀프 호스팅 게이트웨이입니다.
- 스타
- 304
- 포크
- 44
- 열린 이슈
- 0
- 마지막 커밋
- 10시간 전
어떤 프로젝트인가요?
Fast API는 Go로 작성된 엔터프라이즈 지향 LLM API 통합 시스템입니다. OpenAI, Azure, Anthropic Claude, Gemini, DeepSeek, Qwen, Baidu ERNIE, iFlytek Spark, Zhipu GLM, Doubao, Grok 등 여러 제공업체의 모델을 하나의 OpenAI 호환 엔드포인트로 업무 시스템에서 호출할 수 있습니다. 호출 측은 한 번만 연동하면 되며, 자체 코드를 수정하지 않고도 백엔드를 바꾸거나 추가할 수 있습니다.
이 프로젝트에는 웹 관리 콘솔, 사용자 포털, 리셀러 포털이 포함되어 있어 운영자가 브라우저에서 채널과 계정을 관리할 수 있습니다. Docker로 배포할 수 있으며, README에는 클러스터 및 멀티 리전 배포도 안내되어 있습니다. 커뮤니티 및 프로페셔널 에디션의 데모 로그인 정보도 제공됩니다.
메인 저장소는 API 서비스이며, 웹 프런트엔드, 관리자 UI, SDK는 같은 조직의 별도 저장소에 있습니다.
핵심 기능
- 01여러 LLM 제공업체를 지원하는 단일 OpenAI 호환 Chat Completions 엔드포인트
- 02OpenAI 요청 형식의 스트리밍 요청 지원
- 03웹 관리자·사용자·리셀러 콘솔
- 04Docker 원클릭 배포와 클러스터 또는 멀티 리전 배포
활용 사례
- 하나의 API로 애플리케이션에서 여러 LLM 제공업체를 이용
- 클라이언트 코드를 수정하지 않고 모델 백엔드를 바꾸거나 추가
- 계정 및 쿼터 관리 기능을 갖춘 사내 또는 리셀러용 LLM API 서비스 운영
빠른 시작
- 1
README에 링크된 가이드를 따라 Docker로 배포하세요
- 2
프로젝트 웹사이트의 빠른 시작 가이드를 따르세요
사용 전 알아둘 점
- README에 설치 명령어가 없어 외부 Docker 가이드에 따라 설정해야 합니다.
- 문서와 README의 대부분이 중국어로 작성되어 있습니다.
포함된 컬렉션
토픽
자주 묻는 질문
- fastapi은(는) 무엇인가요?
- 여러 LLM 제공업체(OpenAI, Claude, Gemini, DeepSeek, Qwen 등)를 하나의 OpenAI 호환 API로 제공하는 셀프 호스팅 게이트웨이입니다. Fast API는 Go로 작성된 엔터프라이즈 지향 LLM API 통합 시스템입니다. OpenAI, Azure, Anthropic Claude, Gemini, DeepSeek, Qwen, Baidu ERNIE, iFlytek Spark, Zhipu GLM, Doubao, Grok 등 여러 제공업체의 모델을 하나의 OpenAI 호환 엔드포인트로 업무 시스템에서 호출할 수 있습니다. 호출 측은 한 번만 연동하면 되며, 자체 코드를 수정하지 않고도 백엔드를 바꾸거나 추가할 수 있습니다.
- fastapi은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- fastapi은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- fastapi은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. fastapi의 마지막 커밋은 2026년 11월 7일입니다.
- fastapi은(는) 어디에 사용할 수 있나요?
- 하나의 API로 애플리케이션에서 여러 LLM 제공업체를 이용 클라이언트 코드를 수정하지 않고 모델 백엔드를 바꾸거나 추가 계정 및 쿼터 관리 기능을 갖춘 사내 또는 리셀러용 LLM API 서비스 운영
- fastapi는 어떻게 설치하나요?
- README에 링크된 가이드를 따라 Docker로 배포하세요 프로젝트 웹사이트의 빠른 시작 가이드를 따르세요
- fastapi은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/iimeta/fastapi
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
여러 업스트림 모델 제공업체를 대상으로 라우팅, 키, 할당량, 비용 추적을 제공하며 OpenAI, Claude, Gemini 호환 API를 노출하는 셀프 호스팅 AI 게이트웨이입니다.
OpenAI, Azure, Claude, Gemini, Ollama 모델을 연결하고 사용자 관리와 요청 제한 기능을 제공하는 Go 기반 셀프 호스팅 팀 채팅 웹 앱입니다.
여러 제공업체 채널을 하나의 엔드포인트로 통합하고 장애 조치와 비용 추적을 지원하는 개인용 셀프 호스팅 LLM API 게이트웨이입니다.
여러 AI 릴레이 사이트를 하나의 API 키와 엔드포인트로 통합하고 스마트 라우팅을 제공하는 셀프 호스팅 게이트웨이입니다.