Запускает открытые модели ИИ локально на Mac с Apple Silicon с помощью MLX и предоставляет их через сервер, совместимый с Anthropic API, чтобы Claude Code работал без интернета.
- Звёзды
- 131
- Форки
- 25
- Открытые issues
- 15
- Последний коммит
- 3 часа назад
Что это?
Off Grid AI — настольное приложение, которое запускает открытые модели целиком на вашем устройстве. В нём есть чат с текстовыми и визуальными моделями, локальная генерация изображений, преобразование речи в текст и текста в речь, а также холст для отображения HTML, React, SVG и Mermaid в песочнице. За инференс отвечают встроенные llama.cpp, stable-diffusion.cpp, whisper.cpp и Kokoro, поэтому переписки, файлы и модели остаются на устройстве.
Приложение также предоставляет локальный совместимый с OpenAI шлюз по адресу 127.0.0.1:7878 для работы с чатом, изображениями, аудио и эмбеддингами. Его можно запускать без графического интерфейса, управляя загрузкой, активацией и удалением моделей через HTTP. В проектах доступен RAG по загруженным документам с указанием источников, а MCP-коннекторы можно добавить для инструментов, используемых прямо в чате.
Дополнительная лицензия Pro включает постоянно работающий фоновый модуль: он захватывает экран и распознаёт текст с помощью OCR, ведёт журнал и записи о сущностях, транскрибирует встречи, а также предоставляет диктовку и историю буфера обмена. Действия выполняются только с одобрения пользователя. Открытая часть распространяется по лицензии AGPL-3.0, а Pro поставляется в отдельном закрытом пакете.
Ключевые возможности
- 01Чат с текстовыми и визуальными моделями, включая режим рассуждений.
- 02Локальная генерация изображений по тексту и на основе других изображений с моделями SDXL и Z-Image-Turbo.
- 03Преобразование речи в текст и текста в речь, а также голосовой режим без помощи рук.
- 04Совместимый с OpenAI шлюз для работы с чатом, изображениями, аудио и эмбеддингами.
- 05Проекты с RAG по файлам PDF, DOCX, txt и md и указанием источников.
- 06Поддержка MCP-коннекторов для инструментов, используемых в чате.
Сценарии использования
- Общаться с моделями и анализировать документы на ноутбуке, не отправляя данные в облачный сервис.
- Запустить локальную модель на сервере домашней лаборатории и использовать её как совместимую с OpenAI конечную точку для собственных приложений.
- Генерировать изображения или транскрибировать аудио офлайн на Mac с Apple Silicon.
- Создавать прототипы инструментов на базе LLM, используя локальный API с интерфейсом, совместимым с OpenAI.
Быстрый старт
- 1
Скачайте приложение со страницы релизов
- 2
Клонируйте репозиторий
git clone https://github.com/off-grid-ai/OGAD.git - 3
Перейдите в папку проекта и загрузите встроенные нативные бинарные файлы с помощью Git LFS
cd OGAD && git lfs install && git lfs pull - 4
Установите зависимости и запустите приложение целиком
npm install && npm run dev
Что важно знать
- Сборки для настольных компьютеров доступны только для macOS (Apple Silicon), Windows (x64) и Linux (x64, Ubuntu 24.04 или новее).
- Для сборки из исходного кода необходимо загрузить встроенные нативные бинарные файлы с помощью Git LFS.
- Off Grid AI Pro требует отдельной платной лицензии и не входит в ядро с открытым исходным кодом.
В подборках
Темы
Частые вопросы
- Что такое OGAD?
- Приватная настольная AI-студия для macOS, Windows и Linux: запускает открытые модели локально, предоставляет совместимый с OpenAI шлюз и не требует аккаунта или облака. Off Grid AI — настольное приложение, которое запускает открытые модели целиком на вашем устройстве. В нём есть чат с текстовыми и визуальными моделями, локальная генерация изображений, преобразование речи в текст и текста в речь, а также холст для отображения HTML, React, SVG и Mermaid в песочнице. За инференс отвечают встроенные llama.cpp, stable-diffusion.cpp, whisper.cpp и Kokoro, поэтому переписки, файлы и модели остаются на устройстве.
- OGAD можно использовать бесплатно? Какая у него лицензия?
- OGAD распространяется с открытым исходным кодом под лицензией AGPL-3.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- OGAD всё ещё поддерживается?
- Активно поддерживается. Последний коммит в OGAD — 22 окт. 2026 г..
- Для чего можно использовать OGAD?
- Общаться с моделями и анализировать документы на ноутбуке, не отправляя данные в облачный сервис. Запустить локальную модель на сервере домашней лаборатории и использовать её как совместимую с OpenAI конечную точку для собственных приложений. Генерировать изображения или транскрибировать аудио офлайн на Mac с Apple Silicon. Создавать прототипы инструментов на базе LLM, используя локальный API с интерфейсом, совместимым с OpenAI.
- Как установить OGAD?
- Скачайте приложение со страницы релизов Клонируйте репозиторий: git clone https://github.com/off-grid-ai/OGAD.git Перейдите в папку проекта и загрузите встроенные нативные бинарные файлы с помощью Git LFS: cd OGAD && git lfs install && git lfs pull Установите зависимости и запустите приложение целиком: npm install && npm run dev
- Где скачать OGAD?
- Исходный код и инструкции по установке — на GitHub: https://github.com/off-grid-ai/OGAD
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Локальный AI-движок с совместимым с OpenAI API: запускает LLM, модели для зрения, речи, изображений и видео на любом оборудовании, в том числе без GPU.
Кроссплатформенный AI-ассистент с открытым исходным кодом и постоянной памятью, работающий на Android, iOS, компьютерах и в вебе.
Локальная офлайн-студия для macOS и Windows: преобразует текст в речь, клонирует голоса и создаёт песни с текстами и MIDI-партитурами.
Бесплатное офлайн-приложение для компьютера, которое оценивает и объясняет яркие моменты в локальных видео по сценам, движению, аудио, объектам и расшифровке речи.
Open-source API-сервер для агентных приложений: предоставляет совместимые с OpenAI эндпоинты и направляет запросы к любой модели или бэкенду.