MLXでApple Silicon Mac上にオープンモデルを動かし、Claude Codeをオフラインで使えるAPI互換サーバーを提供します。
- スター
- 131
- フォーク
- 25
- 未解決の Issue
- 15
- 最終コミット
- 4 時間前
これは何?
Off Grid AIは、オープンモデルをすべて自分のマシン上で実行するデスクトップアプリです。テキストや画像を使ったチャット、オンデバイスの画像生成、音声認識と音声合成に対応し、HTML、React、SVG、Mermaidをサンドボックス内で表示するキャンバスも備えています。推論には同梱のllama.cpp、stable-diffusion.cpp、whisper.cpp、Kokoroを使用するため、会話、ファイル、モデルはデバイス内にとどまります。
また、チャット、画像、音声、embeddingsに対応するOpenAI互換のローカルゲートウェイを127.0.0.1:7878で提供します。ヘッドレスでの実行も可能で、モデルの取得、有効化、削除をHTTP経由で管理できます。プロジェクトではアップロードしたドキュメントを対象に、出典を示すRAGを利用できます。また、MCPコネクターを追加してチャット内のツールとして使えます。
オプションのProライセンスでは、画面を常時キャプチャしてOCRを実行し、ジャーナルやエンティティ記録を作成するほか、会議の文字起こし、音声入力、クリップボード履歴を利用できます。操作の実行にはユーザーの承認が必要です。オープンコアはAGPL-3.0ライセンスで、Proは別の非公開パッケージとして提供されます。
主な機能
- 01推論モードを含む、テキストモデルや画像モデルとのチャット。
- 02SDXLおよびZ-Image-Turboモデルを使った、オンデバイスのテキストから画像・画像から画像への生成。
- 03ハンズフリー音声モードに対応した音声認識と音声合成。
- 04チャット、画像、音声、embeddingsに対応するOpenAI互換ゲートウェイ。
- 05PDF、DOCX、txt、mdファイルを対象に、出典を示すRAGを利用できるプロジェクト機能。
- 06チャット内で使うツール向けのMCPコネクター対応。
ユースケース
- データをクラウドサービスに送信せず、ノートPC上でプライベートにチャットやドキュメント分析を行う。
- 自宅のサーバーでローカルモデルを実行し、自作アプリ向けのOpenAI互換エンドポイントとして使う。
- Apple Silicon搭載Macで画像を生成したり、オフラインで音声を書き起こしたりする。
- OpenAIのインターフェースを模したローカルAPIを使って、LLMベースのツールを試作する。
クイックスタート
- 1
リリースページからアプリをダウンロードする
- 2
リポジトリをクローンする
git clone https://github.com/off-grid-ai/OGAD.git - 3
プロジェクトフォルダーに移動し、Git LFSで同梱のネイティブバイナリを取得する
cd OGAD && git lfs install && git lfs pull - 4
依存関係をインストールして、アプリ全体を起動する
npm install && npm run dev
使う前に知っておきたいこと
- デスクトップ版はmacOS(Apple Silicon)、Windows(x64)、Linux(x64、Ubuntu 24.04以降)のみ対応しています。
- ソースからビルドするには、Git LFSを使って同梱のネイティブバイナリを取得する必要があります。
- Off Grid AI Proは別途購入が必要なライセンスで、オープンソースのコアには含まれていません。
収録されている特集
トピック
よくある質問
- OGAD とは?
- OpenAI互換ゲートウェイを備え、アカウントもクラウドも不要でオープンモデルをローカル実行できる、macOS・Windows・Linux向けのプライベートなデスクトップAIスタジオ。 Off Grid AIは、オープンモデルをすべて自分のマシン上で実行するデスクトップアプリです。テキストや画像を使ったチャット、オンデバイスの画像生成、音声認識と音声合成に対応し、HTML、React、SVG、Mermaidをサンドボックス内で表示するキャンバスも備えています。推論には同梱のllama.cpp、stable-diffusion.cpp、whisper.cpp、Kokoroを使用するため、会話、ファイル、モデルはデバイス内にとどまります。
- OGAD は無料で使えますか?ライセンスは?
- OGAD は AGPL-3.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- OGAD は今もメンテナンスされていますか?
- 活発にメンテナンス中。OGAD の最終コミットは 2026年10月22日 です。
- OGAD は何に使えますか?
- データをクラウドサービスに送信せず、ノートPC上でプライベートにチャットやドキュメント分析を行う。 自宅のサーバーでローカルモデルを実行し、自作アプリ向けのOpenAI互換エンドポイントとして使う。 Apple Silicon搭載Macで画像を生成したり、オフラインで音声を書き起こしたりする。 OpenAIのインターフェースを模したローカルAPIを使って、LLMベースのツールを試作する。
- OGAD のインストール方法は?
- リリースページからアプリをダウンロードする リポジトリをクローンする: git clone https://github.com/off-grid-ai/OGAD.git プロジェクトフォルダーに移動し、Git LFSで同梱のネイティブバイナリを取得する: cd OGAD && git lfs install && git lfs pull 依存関係をインストールして、アプリ全体を起動する: npm install && npm run dev
- OGAD はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/off-grid-ai/OGAD
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
CPUのみのマシンを含むあらゆるハードウェアで各種AIモデルを動かす、セルフホスト型のOpenAI互換AIエンジン。
Android、iOS、デスクトップ、Webで動作する、永続メモリを備えたOpenClawスタイルのオープンソースAIアシスタント。
テキストの音声化、声のクローン、歌詞やMIDI譜からの楽曲生成ができる、macOS/Windows向けのローカル完結型デスクトップスタジオ。
ローカル動画の見どころを、シーン・動き・音声・物体・文字起こしの情報から評価して説明する、無料のオフライン対応デスクトップアプリ。
OpenAI互換のエンドポイントを提供し、あらゆるモデルやバックエンドにリクエストをルーティングできるオープンソースのエージェント型APIサーバー。