Repolode
제출하기
off-grid-ai

off-grid-ai/OGAD

Open 모델을 로컬에서 실행하고 OpenAI 호환 게이트웨이를 제공하는 macOS, Windows, Linux용 비공개 데스크톱 AI 스튜디오로, 계정이나 클라우드가 필요 없습니다.

대체할 수 있는 제품:LM StudioOllama

GitHub에서 보기웹사이트
스타
131
포크
25
열린 이슈
15
마지막 커밋
1시간 전

어떤 프로젝트인가요?

Off Grid AI는 오픈 모델을 온전히 내 컴퓨터에서 실행하는 데스크톱 애플리케이션입니다. 텍스트 및 비전 모델과의 채팅, 온디바이스 이미지 생성, 음성 인식과 음성 합성을 지원하고, 샌드박스에서 HTML, React, SVG, Mermaid를 렌더링하는 캔버스도 제공합니다. 추론은 번들로 제공되는 llama.cpp, stable-diffusion.cpp, whisper.cpp, Kokoro가 처리하므로 대화, 파일, 모델이 모두 기기 안에 머뭅니다.

앱은 채팅, 비전, 이미지, 오디오, 임베딩을 지원하는 로컬 OpenAI 호환 게이트웨이도 127.0.0.1:7878에서 제공합니다. 헤드리스 모드로 실행할 수 있으며, HTTP를 통해 모델을 가져오고 활성화하거나 삭제할 수 있습니다. 프로젝트에서는 업로드한 문서를 대상으로 출처를 인용하는 RAG를 사용할 수 있고, MCP 커넥터를 추가해 채팅에서 도구를 사용할 수 있습니다.

선택 사항인 Pro 라이선스를 사용하면 화면을 상시 캡처하고 OCR을 수행해 저널과 엔티티 레코드를 만들며, 회의 녹취, 받아쓰기, 클립보드 기록을 제공하는 기능이 추가됩니다. 작업은 사용자의 승인을 받아야 실행됩니다. 오픈 코어는 AGPL-3.0 라이선스로 제공되며, Pro는 별도의 비공개 패키지에 포함되어 있습니다.

핵심 기능

  • 01추론 모드를 포함해 텍스트 및 비전 모델과 채팅합니다.
  • 02SDXL 및 Z-Image-Turbo 모델을 사용해 기기에서 텍스트-이미지 및 이미지-이미지 생성을 수행합니다.
  • 03핸즈프리 음성 모드로 음성 인식과 음성 합성을 사용합니다.
  • 04채팅, 이미지, 오디오, 임베딩을 지원하는 OpenAI 호환 게이트웨이입니다.
  • 05PDF, DOCX, txt, md 파일을 대상으로 출처를 인용하는 RAG를 프로젝트에서 사용할 수 있습니다.
  • 06채팅에서 사용하는 도구를 위해 MCP 커넥터를 지원합니다.

활용 사례

  • 클라우드 서비스에 데이터를 보내지 않고 노트북에서 문서와 비공개로 채팅하고 분석합니다.
  • homelab 서버에서 로컬 모델을 실행해 자체 앱에서 사용할 OpenAI 호환 엔드포인트로 제공합니다.
  • Apple Silicon이 탑재된 Mac에서 오프라인으로 이미지를 생성하거나 오디오를 녹취합니다.
  • OpenAI 인터페이스를 미러링하는 로컬 API를 대상으로 LLM 기반 도구를 프로토타이핑합니다.

빠른 시작

  1. 1

    릴리스 페이지에서 앱을 다운로드합니다

  2. 2

    저장소를 클론합니다

    git clone https://github.com/off-grid-ai/OGAD.git
  3. 3

    프로젝트 폴더로 이동한 다음 Git LFS로 포함된 네이티브 바이너리를 가져옵니다

    cd OGAD && git lfs install && git lfs pull
  4. 4

    종속성을 설치하고 앱 전체를 시작합니다

    npm install && npm run dev

사용 전 알아둘 점

  • 데스크톱 빌드는 macOS(Apple Silicon), Windows(x64), Linux(x64, Ubuntu 24.04 이상)만 지원합니다.
  • 소스에서 빌드하려면 Git LFS로 포함된 네이티브 바이너리를 가져와야 합니다.
  • Off Grid AI Pro는 별도 유료 라이선스이며 오픈소스 코어에 포함되지 않습니다.

포함된 컬렉션

MCP 서버로컬에서 LLM 실행하기프라이버시·로컬 퍼스트 도구AI 이미지 생성기 & Stable Diffusion 도구

토픽

#local-ai#llm#on-device-ai#openai-compatible#rag#mcp#privacy#offline-ai#image-generation#ai-assistant

자주 묻는 질문

OGAD은(는) 무엇인가요?
Open 모델을 로컬에서 실행하고 OpenAI 호환 게이트웨이를 제공하는 macOS, Windows, Linux용 비공개 데스크톱 AI 스튜디오로, 계정이나 클라우드가 필요 없습니다. Off Grid AI는 오픈 모델을 온전히 내 컴퓨터에서 실행하는 데스크톱 애플리케이션입니다. 텍스트 및 비전 모델과의 채팅, 온디바이스 이미지 생성, 음성 인식과 음성 합성을 지원하고, 샌드박스에서 HTML, React, SVG, Mermaid를 렌더링하는 캔버스도 제공합니다. 추론은 번들로 제공되는 llama.cpp, stable-diffusion.cpp, whisper.cpp, Kokoro가 처리하므로 대화, 파일, 모델이 모두 기기 안에 머뭅니다.
OGAD은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
OGAD은(는) AGPL-3.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
OGAD은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. OGAD의 마지막 커밋은 2026년 10월 22일입니다.
OGAD은(는) 어디에 사용할 수 있나요?
클라우드 서비스에 데이터를 보내지 않고 노트북에서 문서와 비공개로 채팅하고 분석합니다. homelab 서버에서 로컬 모델을 실행해 자체 앱에서 사용할 OpenAI 호환 엔드포인트로 제공합니다. Apple Silicon이 탑재된 Mac에서 오프라인으로 이미지를 생성하거나 오디오를 녹취합니다. OpenAI 인터페이스를 미러링하는 로컬 API를 대상으로 LLM 기반 도구를 프로토타이핑합니다.
OGAD는 어떻게 설치하나요?
릴리스 페이지에서 앱을 다운로드합니다 저장소를 클론합니다: git clone https://github.com/off-grid-ai/OGAD.git 프로젝트 폴더로 이동한 다음 Git LFS로 포함된 네이티브 바이너리를 가져옵니다: cd OGAD && git lfs install && git lfs pull 종속성을 설치하고 앱 전체를 시작합니다: npm install && npm run dev
OGAD은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/off-grid-ai/OGAD

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트