Osmantic/ODS

어떤 프로젝트인가요?

핵심 기능

• 01GPU 또는 Apple Silicon을 감지하고 사용 가능한 메모리에 맞는 모델을 선택하는 원커맨드 설치 프로그램
• 02llama-server 로컬 추론을 지원하는 Open WebUI 채팅 인터페이스
• 03모델, 서비스, GPU 상태, 확장 프로그램을 관리하는 제어 대시보드
• 04Whisper 음성-텍스트 변환과 Kokoro 텍스트-음성 변환을 지원하는 음성 기능
• 05n8n 워크플로 자동화, Qdrant 벡터 검색, SearXNG 웹 검색
• 06ods CLI로 서비스를 활성화, 비활성화하고 관리하는 확장 프로그램 시스템

활용 사례

• 클라우드 API 구독 없이 집에서 비공개 채팅 및 문서 어시스턴트 실행
• 자체 파일을 대상으로 RAG를 제공하는 로컬 AI 워크스테이션 또는 홈랩 구성
• 자체 머신에서 벗어나지 않는 음성 및 워크플로 자동화 구축
• 호스팅 서비스에 프롬프트를 보내지 않고 ComfyUI로 이미지 로컬 생성

빠른 시작

1. 1

   Docker를 설치하고 실행 중인지 확인하세요(Linux 또는 macOS).

2. 2

   README에 있는 공식 설치 스크립트를 실행하세요(Linux 또는 macOS).

3. 3

   Windows에서는 일반 PowerShell 창에서 README에 있는 PowerShell 설치 프로그램 블록을 실행하세요.

사용 전 알아둘 점

• !이 버전은 V3 프리릴리스이며 서명되지 않은 main 브랜치를 설치하므로 자주 변경될 수 있습니다.
• !Windows 설정에는 WSL2, Docker Desktop, 약 40 GB의 여유 디스크 공간이 필요합니다.
• !Intel Arc를 지원하는 Linux 환경은 실험적이며 하드웨어별로 다릅니다.
• !Cloud 모드는 OpenAI, Anthropic, Together와 같은 외부 API 서비스에 의존합니다.

포함된 컬렉션

토픽

자주 묻는 질문

ODS은(는) 무엇인가요?

PC, Mac 또는 Linux 머신에 채팅, 음성, RAG, 워크플로와 이미지 생성을 지원하는 비공개 로컬 AI 서버를 구축하는 셀프 호스팅 설치 프로그램이자 스택입니다. ODS(Osmantic Deployment System)는 자체 하드웨어에서 AI 모델을 실행하는 데 필요한 구성 요소를 설치하고 연결합니다. 여기에는 llama-server를 통한 로컬 추론, Open WebUI 채팅, 제어 대시보드, 음성 처리를 위한 Whisper와 Kokoro, n8n 워크플로, Qdrant 기반 RAG, SearXNG 검색, 이미지 생성을 위한 ComfyUI가 포함됩니다. 설치 명령 하나로 GPU 또는 Apple Silicon 칩을 감지하고, 사용 가능한 메모리에 맞는 모델을 선택해 인증 정보를 생성한 뒤 Docker에서 서비스를 시작합니다.

ODS은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

ODS은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

ODS은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. ODS의 마지막 커밋은 2026년 11월 5일입니다.

ODS은(는) 어디에 사용할 수 있나요?

클라우드 API 구독 없이 집에서 비공개 채팅 및 문서 어시스턴트 실행 자체 파일을 대상으로 RAG를 제공하는 로컬 AI 워크스테이션 또는 홈랩 구성 자체 머신에서 벗어나지 않는 음성 및 워크플로 자동화 구축 호스팅 서비스에 프롬프트를 보내지 않고 ComfyUI로 이미지 로컬 생성

ODS는 어떻게 설치하나요?

Docker를 설치하고 실행 중인지 확인하세요(Linux 또는 macOS). README에 있는 공식 설치 스크립트를 실행하세요(Linux 또는 macOS). Windows에서는 일반 PowerShell 창에서 README에 있는 PowerShell 설치 프로그램 블록을 실행하세요.

ODS은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/Osmantic/ODS