Osmantic/ODS

これは何？

主な機能

• 01GPUまたはApple Siliconを検出し、利用可能なメモリに合ったモデルを選ぶワンコマンドインストーラー
• 02llama-serverによるローカル推論に対応したOpen WebUIのチャットインターフェース
• 03モデル、サービス、GPUの状態、拡張機能を管理するダッシュボード
• 04Whisperによる音声テキスト変換とKokoroによるテキスト読み上げに対応した音声機能
• 05n8nによるワークフロー自動化、Qdrantによるベクトル検索、SearXNGによるWeb検索
• 06ods CLIでサービスの有効化、無効化、管理ができる拡張機能システム

ユースケース

• クラウドAPIのサブスクリプションなしで、自宅にプライベートなチャット・文書アシスタントを構築する
• 自分のファイルを対象にRAGを利用できるローカルAIワークステーションやホームラボを構築する
• 自分のマシン内で完結する音声・ワークフロー自動化を構築する
• プロンプトをホスト型サービスに送信せず、ComfyUIで画像をローカル生成する

クイックスタート

1. 1

   Docker をインストールし、起動していることを確認してください（Linux または macOS）

2. 2

   README に記載されている公式インストールスクリプトを実行してください（Linux または macOS）

3. 3

   Windows では、通常の PowerShell ウィンドウで README に記載されている PowerShell インストーラーブロックを実行してください

使う前に知っておきたいこと

• !これは V3 のプレリリース版で、署名されていない main ブランチをインストールするため、頻繁に変更される可能性があります。
• !Windows のセットアップには WSL2、Docker Desktop、およそ 40 GB の空きディスク容量が必要です。
• !Intel Arc に対応した Linux 環境は実験的で、ハードウェアに依存します。
• !Cloud モードは、OpenAI、Anthropic、Together などの外部 API サービスに依存します。

収録されている特集

トピック

よくある質問

ODS とは？

PC、Mac、Linuxマシンにチャット、音声、RAG、ワークフロー、画像生成を備えたプライベートなローカルAIサーバーを構築する、セルフホスト型インストーラー兼スタック。 ODS（Osmantic Deployment System）は、llama-serverによるローカル推論、Open WebUIのチャット、管理ダッシュボード、音声処理用のWhisperとKokoro、n8nワークフロー、QdrantベースのRAG、SearXNG検索、画像生成用のComfyUIなど、自分のハードウェアでAIモデルを動かすために必要なコンポーネントをインストールして連携します。インストールコマンドを1つ実行するだけで、GPUまたはApple Siliconチップを検出し、搭載メモリに合ったモデルを選んで認証情報を生成し、Dockerで各サービスを起動します。

ODS は無料で使えますか？ライセンスは？

ODS は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

ODS は今もメンテナンスされていますか？

活発にメンテナンス中。ODS の最終コミットは 2026年11月6日 です。

ODS は何に使えますか？

クラウドAPIのサブスクリプションなしで、自宅にプライベートなチャット・文書アシスタントを構築する 自分のファイルを対象にRAGを利用できるローカルAIワークステーションやホームラボを構築する 自分のマシン内で完結する音声・ワークフロー自動化を構築する プロンプトをホスト型サービスに送信せず、ComfyUIで画像をローカル生成する

ODS のインストール方法は？

Docker をインストールし、起動していることを確認してください（Linux または macOS） README に記載されている公式インストールスクリプトを実行してください（Linux または macOS） Windows では、通常の PowerShell ウィンドウで README に記載されている PowerShell インストーラーブロックを実行してください

ODS はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/Osmantic/ODS