Svelte와 FastAPI로 만든 채팅 앱으로, 온라인 또는 로컬 LLM을 사용해 GitHub 저장소나 업로드한 소스 폴더에 질문할 수 있습니다.
apocas/restai
RAG, 에이전트, 시각적 로직 기반 AI 프로젝트를 만들고 내장 웹 UI와 REST API로 제공하는 오픈소스 AIaaS 플랫폼입니다.
- 스타
- 517
- 포크
- 113
- 열린 이슈
- 39
- 마지막 커밋
- 그저께
어떤 프로젝트인가요?
RESTai는 자체 호스팅 방식의 AI-as-a-Service 플랫폼입니다. RAG, 에이전트, 블록, 추론 등 여러 유형의 AI 프로젝트를 만들 수 있으며, 각 프로젝트마다 LLM, 시스템 프롬프트, 도구와 설정을 지정한 뒤 REST API나 내장 React 대시보드로 이용할 수 있습니다. OpenAI, Anthropic, Ollama, Gemini, Azure, AWS Bedrock, vLLM을 비롯한 다양한 모델 제공업체와 OpenAI 호환 엔드포인트를 지원합니다.
팀에서 AI 기능을 운영하는 데 필요한 기능도 제공합니다. 토큰 사용량, 비용, 지연 시간 분석, 프롬프트 버전 관리 및 복원, DeepEval 메트릭을 활용한 평가 실행, 입력 및 출력 검사를 위한 가드레일 프로젝트, 프로젝트별 요청 제한, 감사 로그, 팀 단위 권한 관리, 화이트 라벨 브랜딩을 포함합니다. 인증 방식으로 OAuth/LDAP, TOTP 2단계 로그인, API 키를 지원합니다.
RAG 프로젝트에서는 문서를 수집하고 웹 URL, S3, Confluence, SharePoint, Google Drive의 지식을 동기화할 수 있습니다. 그 밖에도 Claude Desktop 같은 클라이언트에서 사용할 수 있는 MCP 서버, Telegram·Slack·WhatsApp 연동, 삽입 가능한 채팅 위젯, WordPress 플러그인, 이미지·오디오·분류 도구를 제공합니다. PyPI에서 설치하거나 Docker로 실행할 수 있으며, Helm chart를 사용해 Kubernetes에 배포할 수도 있습니다.
핵심 기능
- 01각각 자체 LLM과 설정을 갖춘 RAG, 에이전트, 블록, 추론 프로젝트 생성
- 02Ollama와 vLLM을 통한 로컬 모델을 비롯해 다양한 LLM 제공업체 연결
- 03토큰 사용량, 비용, 지연 시간을 분석하는 기능과 React 대시보드 내장
- 04기록 및 원클릭 복원을 지원하는 프롬프트 버전 관리와 평가 실행
- 05MCP 서버 지원 및 Blockly 기반 시각적 로직 빌더
- 06채팅, 이미지 생성, 오디오 전사를 위한 OpenAI 호환 엔드포인트
활용 사례
- S3 또는 Confluence와 정기적으로 동기화되는 사내 문서 기반 질의응답 봇 호스팅
- 사용량과 비용을 추적하면서 팀이 여러 LLM 제공업체를 함께 이용할 수 있도록 접근 권한 관리
- 웹사이트에 고객 지원 챗봇을 삽입하거나 Telegram, Slack, WhatsApp에 연결
- 기존 SDK 기반 코드에서 사용할 수 있도록 OpenAI 호환 API 뒤에서 로컬 오픈소스 모델 실행
빠른 시작
- 1
PyPI에서 설치
pip install restai-core - 2
데이터베이스와 관리자 사용자 생성
restai init - 3
데이터베이스 마이그레이션 실행
restai migrate - 4
서버를 시작한 다음 http://localhost:9000/admin을 엽니다 (admin / admin)
restai serve
사용 전 알아둘 점
- 기본 관리자 인증 정보는 admin / admin이며 반드시 변경해야 합니다.
- 기능이 많고 무거워 셀프 호스팅에는 상당한 설정 작업이 필요합니다.
포함된 컬렉션
토픽
자주 묻는 질문
- restai은(는) 무엇인가요?
- RAG, 에이전트, 시각적 로직 기반 AI 프로젝트를 만들고 내장 웹 UI와 REST API로 제공하는 오픈소스 AIaaS 플랫폼입니다. RESTai는 자체 호스팅 방식의 AI-as-a-Service 플랫폼입니다. RAG, 에이전트, 블록, 추론 등 여러 유형의 AI 프로젝트를 만들 수 있으며, 각 프로젝트마다 LLM, 시스템 프롬프트, 도구와 설정을 지정한 뒤 REST API나 내장 React 대시보드로 이용할 수 있습니다. OpenAI, Anthropic, Ollama, Gemini, Azure, AWS Bedrock, vLLM을 비롯한 다양한 모델 제공업체와 OpenAI 호환 엔드포인트를 지원합니다.
- restai은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- restai은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- restai은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. restai의 마지막 커밋은 2026년 11월 5일입니다.
- restai은(는) 어디에 사용할 수 있나요?
- S3 또는 Confluence와 정기적으로 동기화되는 사내 문서 기반 질의응답 봇 호스팅 사용량과 비용을 추적하면서 팀이 여러 LLM 제공업체를 함께 이용할 수 있도록 접근 권한 관리 웹사이트에 고객 지원 챗봇을 삽입하거나 Telegram, Slack, WhatsApp에 연결 기존 SDK 기반 코드에서 사용할 수 있도록 OpenAI 호환 API 뒤에서 로컬 오픈소스 모델 실행
- restai는 어떻게 설치하나요?
- PyPI에서 설치: pip install restai-core 데이터베이스와 관리자 사용자 생성: restai init 데이터베이스 마이그레이션 실행: restai migrate 서버를 시작한 다음 http://localhost:9000/admin을 엽니다 (admin / admin): restai serve
- restai은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/apocas/restai
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
로컬 파일, GitHub 저장소, 웹사이트를 수집하고 로컬 Ollama 모델로 질문에 답하는 오프라인 RAG 앱으로, 데이터는 네트워크 내에 보관합니다.
도구, MCP 서버, Skills, 지식 베이스를 연결해 맞춤형 LLM 에이전트와 대화할 수 있는 셀프 호스팅 플랫폼입니다.
문서를 Qdrant에 임베딩하고 시맨틱 및 하이브리드 검색을 수행해 LLM으로 답변하는 대화형 RAG 에이전트용 FastAPI 백엔드입니다.
Rust용 LangChain: 조합 가능한 체인, 에이전트, 도구, 벡터 스토어를 활용해 LLM 기반 애플리케이션을 구축하는 라이브러리입니다.
OpenAI 호환 API로 임베딩, 리랭킹, OCR, 추출, 안전성 및 LLM 모델을 제공하는 셀프 호스팅 추론 서버