tashfeenahmed/freellmapi

Что это?

Ключевые возможности

• 01Единый эндпоинт /v1, совместимый с OpenAI, для множества бесплатных ключей провайдеров
• 02Автоматическое переключение на следующую модель при ответах 429 или 5xx
• 03Отслеживание RPM, RPD, TPM и TPD для каждого ключа, чтобы не превышать лимиты бесплатных тарифов
• 04Шифрование ключей провайдеров при хранении с помощью AES-256-GCM
• 05Эндпоинты, совместимые с Anthropic, Gemini и Ollama, для coding agents
• 06Панель администратора с управлением ключами, playground и аналитикой использования

Сценарии использования

• Создание прототипа приложения с разными LLM без оплаты API-запросов
• Подключение Claude Code, Codex CLI или Aider к пулу бесплатных моделей
• Запуск личного локального шлюза, объединяющего бесплатные облачные тарифы с моделями на собственном сервере
• Тестирование ответов разных провайдеров на один и тот же запрос в формате OpenAI

Быстрый старт

1. 1

   Скачайте настольное приложение со страницы релизов (macOS или Windows)

2. 2

   Разверните приложение на собственном сервере с помощью Docker, следуя инструкциям Docker Compose в руководстве по установке

Что важно знать

• !В бесплатных установках новые модели становятся доступны через 30 дней после их появления в актуальной премиум-ленте. Премиум — платный тариф стоимостью 19 долларов в год.
• !Вам нужно самостоятельно получить и добавить API-ключи каждого бесплатного провайдера, которым вы хотите пользоваться.

Темы

Частые вопросы

Что такое freellmapi?

Локальный шлюз, совместимый с OpenAI: объединяет бесплатные тарифы провайдеров LLM за одним эндпоинтом /v1, поддерживает маршрутизацию и переключение при сбоях. FreeLLMAPI — локальный шлюз, который объединяет бесплатные тарифы многих провайдеров LLM и предоставляет к ним доступ через единый эндпоинт /v1, совместимый с OpenAI. Добавьте ключи провайдеров в панель управления, и любой OpenAI SDK или совместимый клиент сможет отправлять запросы на один базовый URL. Маршрутизатор выбирает доступную модель для каждого запроса и переключается на следующего провайдера, если текущий возвращает ошибку ограничения частоты запросов или сервера.

freellmapi можно использовать бесплатно? Какая у него лицензия?

freellmapi распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.

freellmapi всё ещё поддерживается?

Активно поддерживается. Последний коммит в freellmapi — 21 окт. 2026 г..

Для чего можно использовать freellmapi?

Создание прототипа приложения с разными LLM без оплаты API-запросов Подключение Claude Code, Codex CLI или Aider к пулу бесплатных моделей Запуск личного локального шлюза, объединяющего бесплатные облачные тарифы с моделями на собственном сервере Тестирование ответов разных провайдеров на один и тот же запрос в формате OpenAI

Как установить freellmapi?

Скачайте настольное приложение со страницы релизов (macOS или Windows) Разверните приложение на собственном сервере с помощью Docker, следуя инструкциям Docker Compose в руководстве по установке

Где скачать freellmapi?

Исходный код и инструкции по установке — на GitHub: https://github.com/tashfeenahmed/freellmapi