Локальный AI-движок с совместимым с OpenAI API: запускает LLM, модели для зрения, речи, изображений и видео на любом оборудовании, в том числе без GPU.
ogx-ai/ogx
Open-source API-сервер для агентных приложений: предоставляет совместимые с OpenAI эндпоинты и направляет запросы к любой модели или бэкенду.
Open source альтернатива:OpenAI API
- Звёзды
- 8,444
- Форки
- 1,394
- Открытые issues
- 141
- Последний коммит
- позавчера
Что это?
OGX — это open-source API-сервер для создания AI-приложений. Он служит полной заменой OpenAI API: существующие совместимые с OpenAI клиенты и агентные фреймворки могут работать с ним без изменений кода. Сервер можно запустить на ноутбуке, в дата-центре или в облаке.
В проекте используется архитектура с подключаемыми провайдерами. Разработчики могут локально использовать Ollama, а затем развернуть то же приложение с vLLM или управляемым сервисом моделей, сохранив неизменный API. Кроме того, OGX предоставляет Responses API с вызовом инструментов на стороне сервера, интеграцией с MCP-серверами и встроенным поиском по файлам, а также эндпоинты для векторных хранилищ, файлов и пакетной обработки.
OGX также нативно обрабатывает запросы Anthropic SDK (/v1/messages) и Google GenAI SDK и поставляется с официальными клиентскими SDK для Python и TypeScript. Ранее проект назывался Llama Stack.
Ключевые возможности
- 01Совместимые с OpenAI эндпоинты для chat completions, completions и embeddings, готовые к использованию без доработок.
- 02Responses API с вызовом инструментов, интеграцией с MCP-серверами и встроенным поиском по файлам.
- 03Эндпоинты для векторных хранилищ, файлов и пакетной обработки.
- 04Нативные эндпоинты Anthropic SDK и Google GenAI SDK наряду с OpenAI API.
- 05Подключаемые провайдеры позволяют использовать один и тот же API с Ollama, vLLM или управляемыми сервисами.
Сценарии использования
- Локальная разработка с бэкендом, совместимым с OpenAI, и последующее развертывание того же кода в продакшене.
- Переключение между открытыми и проприетарными моделями без переписывания кода приложения.
- Создание агентов, вызывающих инструменты и MCP-серверы через один запрос к Responses API.
- Развертывание самостоятельно управляемого AI-шлюза в собственной инфраструктуре.
Быстрый старт
- 1
Установите пакет OGX с помощью uv
uv pip install ogx - 2
Запустите сервер OGX (он автоматически обнаружит провайдеров в окружении)
uv run ogx go
Что важно знать
- Для выполнения реального инференса необходимо настроить как минимум одного провайдера моделей или бэкенд.
Темы
Частые вопросы
- Что такое ogx?
- Open-source API-сервер для агентных приложений: предоставляет совместимые с OpenAI эндпоинты и направляет запросы к любой модели или бэкенду. OGX — это open-source API-сервер для создания AI-приложений. Он служит полной заменой OpenAI API: существующие совместимые с OpenAI клиенты и агентные фреймворки могут работать с ним без изменений кода. Сервер можно запустить на ноутбуке, в дата-центре или в облаке.
- ogx можно использовать бесплатно? Какая у него лицензия?
- ogx распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- ogx всё ещё поддерживается?
- Активно поддерживается. Последний коммит в ogx — 20 окт. 2026 г..
- Для чего можно использовать ogx?
- Локальная разработка с бэкендом, совместимым с OpenAI, и последующее развертывание того же кода в продакшене. Переключение между открытыми и проприетарными моделями без переписывания кода приложения. Создание агентов, вызывающих инструменты и MCP-серверы через один запрос к Responses API. Развертывание самостоятельно управляемого AI-шлюза в собственной инфраструктуре.
- Как установить ogx?
- Установите пакет OGX с помощью uv: uv pip install ogx Запустите сервер OGX (он автоматически обнаружит провайдеров в окружении): uv run ogx go
- Где скачать ogx?
- Исходный код и инструкции по установке — на GitHub: https://github.com/ogx-ai/ogx
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
PHP-фреймворк для создания приложений с AI-агентами: он связывает LLM-провайдеров, инструменты, MCP-серверы, RAG и рабочие процессы с агентами.
Платформа для самостоятельного развёртывания AI-агентов и ассистентов, которые отвечают на вопросы по вашим документам со ссылками на источники и работают с любой моделью.
Движок инференса LLM на Rust с API, совместимыми с OpenAI и Anthropic, квантованием, мультимодальными моделями и инструментами для агентов.
Самостоятельно размещаемый интерфейс для общения с локальными моделями Ollama и API, совместимыми с OpenAI: без привязки к провайдерам, с RAG, плагинами и доступом для нескольких пользователей.
Локальный inference-сервер, который через OpenAI-совместимый API обслуживает модели эмбеддингов, reranking, OCR, извлечения данных, безопасности и LLM из одного кластера.