Instalador y stack autohospedados para configurar un servidor privado de IA local en PC, Mac o Linux, con chat, voz, RAG, workflows y generación de imágenes.
Alternativa open source a:ChatGPT
ODS (Osmantic Deployment System) instala y conecta los componentes necesarios para ejecutar modelos de IA en tu propio hardware: inferencia local mediante llama-server, chat con Open WebUI, un panel de control, Whisper y Kokoro para voz, workflows de n8n, RAG basado en Qdrant, búsqueda con SearXNG y generación de imágenes con ComfyUI. Un único comando de instalación detecta la GPU o el chip Apple Silicon, selecciona un modelo que se ajuste a la memoria disponible, genera credenciales e inicia los servicios en Docker.
El instalador puede iniciar un modelo pequeño mientras el modelo completo se descarga en segundo plano. Cada servicio se distribuye como una extensión con un manifiesto y un archivo Compose, por lo que se pueden activar o desactivar servicios mediante el CLI de ods. El CLI también permite cambiar entre los modos de API local, en la nube e híbrido a través de LiteLLM.
El proyecto es compatible con Linux, Windows mediante WSL2 y Docker Desktop, y macOS en Apple Silicon. Está etiquetado como V3 pre-release: los instaladores siguen la rama principal y el proyecto documenta por separado las limitaciones conocidas y el estado de validación.
Instala Docker y asegúrate de que esté en ejecución (Linux o macOS).
Ejecuta el script de instalación oficial del README (Linux o macOS).
En Windows, ejecuta el bloque del instalador de PowerShell del README en una ventana normal de PowerShell.
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Aplicación de IA todo en uno para conversar con tus documentos y ejecutar agentes de IA, con configuración local prioritaria, soporte multiusuario y muchos proveedores de LLM.
Estudio de IA local con interfaz de escritorio que funciona sin conexión e integra generación de imágenes con Stable Diffusion, chat con GGUF, transcripción con Whisper y síntesis de voz con Kokoro.
Framework de agente personal de IA autohospedado en Python, con WebUI en el navegador, cliente de terminal, canales para apps de chat, herramientas, memoria y compatibilidad con MCP.
Un copiloto de IA para escritorio que prioriza la privacidad: ve tu pantalla cuando se lo pides, escucha reuniones y mantiene las claves y los datos en local.
Plataforma experimental en Go para automatizar flujos de trabajo de larga duración con equipos de asistentes de IA y una interfaz web en Vue.
Espacio de chat y agentes de IA local en el navegador que ejecuta modelos WebLLM en tu dispositivo mediante WebGPU, sin backend ni cuenta.