Osmantic/ODS

Что это?

Ключевые возможности

• 01Установка одной командой: определяет GPU или Apple Silicon и выбирает модель с учётом доступной памяти
• 02Интерфейс чата Open WebUI с локальным инференсом через llama-server
• 03Панель управления моделями, сервисами, статусом GPU и расширениями
• 04Голосовые функции: преобразование речи в текст с Whisper и текста в речь с Kokoro
• 05Автоматизация сценариев в n8n, векторный поиск через Qdrant и веб-поиск через SearXNG
• 06Система расширений с CLI ods для включения, отключения и управления сервисами

Сценарии использования

• Запуск приватного чата и помощника по документам дома без подписок на облачные API
• Настройка локальной AI-рабочей станции или homelab с RAG по собственным файлам
• Создание голосовых сценариев и автоматизаций, работающих на вашем устройстве
• Локальная генерация изображений в ComfyUI без отправки запросов в размещённый в облаке сервис

Быстрый старт

1. 1

   Установите Docker и убедитесь, что он запущен (Linux или macOS).

2. 2

   Запустите официальный скрипт установки из README (Linux или macOS).

3. 3

   В Windows запустите блок установщика PowerShell из README в обычном окне PowerShell.

Что важно знать

• !Это предварительная версия V3, которая устанавливает неподписанную ветку main, поэтому она может часто меняться.
• !Для настройки Windows требуются WSL2, Docker Desktop и около 40 ГБ свободного места на диске.
• !Поддержка Intel Arc в Linux экспериментальная и зависит от конкретного оборудования.
• !Режим Cloud зависит от внешних API-сервисов, таких как OpenAI, Anthropic или Together.

В подборках

Темы

Частые вопросы

Что такое ODS?

Самостоятельно устанавливаемый AI-стек для запуска приватного локального AI-сервера на ПК, Mac или Linux: чат, голос, RAG, автоматизация и генерация изображений. ODS (Osmantic Deployment System) устанавливает и связывает компоненты для запуска AI-моделей на собственном оборудовании: локальный инференс через llama-server, чат в Open WebUI, панель управления, Whisper и Kokoro для работы с речью, сценарии n8n, RAG на базе Qdrant, поиск через SearXNG и генерацию изображений в ComfyUI. Одна команда установки определяет GPU или чип Apple Silicon, выбирает модель, которой хватит доступной памяти, генерирует учётные данные и запускает сервисы в Docker.

ODS можно использовать бесплатно? Какая у него лицензия?

ODS распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.

ODS всё ещё поддерживается?

Активно поддерживается. Последний коммит в ODS — 7 нояб. 2026 г..

Для чего можно использовать ODS?

Запуск приватного чата и помощника по документам дома без подписок на облачные API Настройка локальной AI-рабочей станции или homelab с RAG по собственным файлам Создание голосовых сценариев и автоматизаций, работающих на вашем устройстве Локальная генерация изображений в ComfyUI без отправки запросов в размещённый в облаке сервис

Как установить ODS?

Установите Docker и убедитесь, что он запущен (Linux или macOS). Запустите официальный скрипт установки из README (Linux или macOS). В Windows запустите блок установщика PowerShell из README в обычном окне PowerShell.

Где скачать ODS?

Исходный код и инструкции по установке — на GitHub: https://github.com/Osmantic/ODS