Repolode
Osmantic

Osmantic/ODS

Instalador e stack self-hosted que configura um servidor de IA privado e local em um PC, Mac ou máquina Linux, com chat, voz, RAG, workflows e geração de imagens.

Alternativa open source a:ChatGPT

Estrelas
7,780
Forks
1,109
Issues abertas
929
Último commit
ontem

O que é?

O ODS (Osmantic Deployment System) instala e conecta os componentes necessários para executar modelos de IA no seu próprio hardware, incluindo inferência local com llama-server, chat com Open WebUI, um painel de controle, Whisper e Kokoro para voz, workflows do n8n, RAG baseado em Qdrant, buscas com SearXNG e geração de imagens com ComfyUI. Um único comando de instalação detecta a GPU ou o chip Apple Silicon, seleciona um modelo que caiba na memória disponível, gera credenciais e inicia os serviços no Docker.

O instalador pode iniciar um modelo pequeno enquanto o modelo completo é baixado em segundo plano. Cada serviço é empacotado como uma extensão com um manifest e um arquivo Compose, então os serviços podem ser ativados ou desativados pelo CLI ods. O CLI também alterna entre os modos de API local, em nuvem e híbrido via LiteLLM.

O projeto oferece suporte a Linux, Windows com WSL2 e Docker Desktop, e macOS com Apple Silicon. Ele está marcado como V3 pré-lançamento: os instaladores acompanham a branch principal, e o projeto documenta separadamente as limitações conhecidas e o status de validação.

Recursos principais

  • 01Instalador de comando único que detecta a GPU ou o Apple Silicon e escolhe um modelo adequado à memória disponível
  • 02Interface de chat do Open WebUI com inferência local pelo llama-server
  • 03Painel de controle para modelos, serviços, status da GPU e extensões
  • 04Suporte a voz com speech-to-text do Whisper e text-to-speech do Kokoro
  • 05Automação de workflows com n8n, busca vetorial com Qdrant e busca na web com SearXNG
  • 06Sistema de extensões com um CLI ods para ativar, desativar e gerenciar serviços

Casos de uso

  • Executar em casa um assistente privado de chat e documentos sem assinaturas de APIs na nuvem
  • Configurar uma estação de trabalho local de IA ou um homelab com RAG sobre seus próprios arquivos
  • Criar automações de voz e workflows que permaneçam na sua própria máquina
  • Gerar imagens localmente com ComfyUI sem enviar prompts para um serviço hospedado

Início rápido

  1. 1

    Instale o Docker e verifique se ele está em execução (Linux ou macOS).

  2. 2

    Execute o script oficial de instalação indicado no README (Linux ou macOS).

  3. 3

    No Windows, execute o bloco do instalador do PowerShell indicado no README em uma janela normal do PowerShell.

Antes de usar

  • Esta é uma versão prévia da V3 que instala a branch main sem assinatura, por isso pode mudar com frequência.
  • A configuração no Windows requer WSL2, Docker Desktop e cerca de 40 GB de espaço livre em disco.
  • O suporte a Intel Arc no Linux é experimental e específico para cada hardware.
  • O modo Cloud depende de serviços de API externos, como OpenAI, Anthropic ou Together.

Em coleções

Tópicos

Perguntas frequentes

O que é ODS?
Instalador e stack self-hosted que configura um servidor de IA privado e local em um PC, Mac ou máquina Linux, com chat, voz, RAG, workflows e geração de imagens. O ODS (Osmantic Deployment System) instala e conecta os componentes necessários para executar modelos de IA no seu próprio hardware, incluindo inferência local com llama-server, chat com Open WebUI, um painel de controle, Whisper e Kokoro para voz, workflows do n8n, RAG baseado em Qdrant, buscas com SearXNG e geração de imagens com ComfyUI. Um único comando de instalação detecta a GPU ou o chip Apple Silicon, seleciona um modelo que caiba na memória disponível, gera credenciais e inicia os serviços no Docker.
ODS é gratuito? Qual é a licença?
ODS é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
ODS ainda é mantido?
Manutenção ativa. O último commit de ODS foi em 6 de nov. de 2026.
Para que posso usar ODS?
Executar em casa um assistente privado de chat e documentos sem assinaturas de APIs na nuvem Configurar uma estação de trabalho local de IA ou um homelab com RAG sobre seus próprios arquivos Criar automações de voz e workflows que permaneçam na sua própria máquina Gerar imagens localmente com ComfyUI sem enviar prompts para um serviço hospedado
Como instalar ODS?
Instale o Docker e verifique se ele está em execução (Linux ou macOS). Execute o script oficial de instalação indicado no README (Linux ou macOS). No Windows, execute o bloco do instalador do PowerShell indicado no README em uma janela normal do PowerShell.
Onde consigo ODS?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/Osmantic/ODS

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados