Repolode
ogx-ai

ogx-ai/ogx

Open-source API-сервер для агентных приложений: предоставляет совместимые с OpenAI эндпоинты и направляет запросы к любой модели или бэкенду.

Open source альтернатива:OpenAI API

Звёзды
8,444
Форки
1,394
Открытые issues
141
Последний коммит
позавчера

Что это?

OGX — это open-source API-сервер для создания AI-приложений. Он служит полной заменой OpenAI API: существующие совместимые с OpenAI клиенты и агентные фреймворки могут работать с ним без изменений кода. Сервер можно запустить на ноутбуке, в дата-центре или в облаке.

В проекте используется архитектура с подключаемыми провайдерами. Разработчики могут локально использовать Ollama, а затем развернуть то же приложение с vLLM или управляемым сервисом моделей, сохранив неизменный API. Кроме того, OGX предоставляет Responses API с вызовом инструментов на стороне сервера, интеграцией с MCP-серверами и встроенным поиском по файлам, а также эндпоинты для векторных хранилищ, файлов и пакетной обработки.

OGX также нативно обрабатывает запросы Anthropic SDK (/v1/messages) и Google GenAI SDK и поставляется с официальными клиентскими SDK для Python и TypeScript. Ранее проект назывался Llama Stack.

Ключевые возможности

  • 01Совместимые с OpenAI эндпоинты для chat completions, completions и embeddings, готовые к использованию без доработок.
  • 02Responses API с вызовом инструментов, интеграцией с MCP-серверами и встроенным поиском по файлам.
  • 03Эндпоинты для векторных хранилищ, файлов и пакетной обработки.
  • 04Нативные эндпоинты Anthropic SDK и Google GenAI SDK наряду с OpenAI API.
  • 05Подключаемые провайдеры позволяют использовать один и тот же API с Ollama, vLLM или управляемыми сервисами.

Сценарии использования

  • Локальная разработка с бэкендом, совместимым с OpenAI, и последующее развертывание того же кода в продакшене.
  • Переключение между открытыми и проприетарными моделями без переписывания кода приложения.
  • Создание агентов, вызывающих инструменты и MCP-серверы через один запрос к Responses API.
  • Развертывание самостоятельно управляемого AI-шлюза в собственной инфраструктуре.

Быстрый старт

  1. 1

    Установите пакет OGX с помощью uv

    uv pip install ogx
  2. 2

    Запустите сервер OGX (он автоматически обнаружит провайдеров в окружении)

    uv run ogx go

Что важно знать

  • Для выполнения реального инференса необходимо настроить как минимум одного провайдера моделей или бэкенд.

Темы

Частые вопросы

Что такое ogx?
Open-source API-сервер для агентных приложений: предоставляет совместимые с OpenAI эндпоинты и направляет запросы к любой модели или бэкенду. OGX — это open-source API-сервер для создания AI-приложений. Он служит полной заменой OpenAI API: существующие совместимые с OpenAI клиенты и агентные фреймворки могут работать с ним без изменений кода. Сервер можно запустить на ноутбуке, в дата-центре или в облаке.
ogx можно использовать бесплатно? Какая у него лицензия?
ogx распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
ogx всё ещё поддерживается?
Активно поддерживается. Последний коммит в ogx — 20 окт. 2026 г..
Для чего можно использовать ogx?
Локальная разработка с бэкендом, совместимым с OpenAI, и последующее развертывание того же кода в продакшене. Переключение между открытыми и проприетарными моделями без переписывания кода приложения. Создание агентов, вызывающих инструменты и MCP-серверы через один запрос к Responses API. Развертывание самостоятельно управляемого AI-шлюза в собственной инфраструктуре.
Как установить ogx?
Установите пакет OGX с помощью uv: uv pip install ogx Запустите сервер OGX (он автоматически обнаружит провайдеров в окружении): uv run ogx go
Где скачать ogx?
Исходный код и инструкции по установке — на GitHub: https://github.com/ogx-ai/ogx

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Самостоятельно размещаемый интерфейс для общения с локальными моделями Ollama и API, совместимыми с OpenAI: без привязки к провайдерам, с RAG, плагинами и доступом для нескольких пользователей.

156,5 тыс.22,8 тыс.PythonOtherОбновлён 13 часов назад