Локальный inference-сервер, который через OpenAI-совместимый API обслуживает модели эмбеддингов, reranking, OCR, извлечения данных, безопасности и LLM из одного кластера.
OpenRouterTeam/ai-sdk-provider
Пакет-провайдер связывает Vercel AI SDK с OpenRouter и открывает доступ к сотням LLM через единый API.
- Звёзды
- 695
- Форки
- 176
- Открытые issues
- 46
- Последний коммит
- позавчера
Что это?
Этот пакет — провайдер OpenRouter для Vercel AI SDK. Он позволяет вызывать сотни языковых моделей, размещённых на OpenRouter, через привычные функции AI SDK, например generateText и streamText: достаточно передать в аргумент model ID модели OpenRouter.
Помимо чата и генерации, пакет поддерживает модели для эмбеддингов и ранжирования, а также экспериментальную модель принятия решений для оценки AI SDK. Кроме того, можно передавать OpenRouter дополнительные поля запроса, указывать параметры детализации изображений и обработки видео для мультимодальных входных данных, использовать кэширование промптов и beta-заголовки Anthropic, исправление ответов со структурированным JSON, а также учитывать использование токенов и стоимость. Для ветки AI SDK v7 требуются Node.js 22 или новее, и она доступна только в формате ESM; предыдущие версии по-прежнему доступны для AI SDK v5 и v6.
Ключевые возможности
- 01Переключайтесь между сотнями моделей OpenRouter, меняя один ID модели.
- 02Предоставляет интерфейсы моделей для эмбеддингов и ранжирования в AI SDK.
- 03Передаёт OpenRouter дополнительные поля запроса через providerOptions или настройки модели.
- 04Поддерживает параметры детализации изображений и обработки видео для мультимодальных входных данных.
- 05Поддерживает кэширование промптов и beta-заголовки Anthropic.
- 06Передаёт сведения об использовании токенов и стоимости запросов в метаданных провайдера.
Сценарии использования
- Создание приложения на Next.js или Node.js, в котором пользователи могут выбирать из множества LLM через одну интеграцию.
- Добавление семантического поиска или RAG-функций с моделями эмбеддингов через AI SDK.
- Генерация проверенного JSON с включённым исправлением ответов.
- Учёт стоимости каждого запроса и использования токенов в продукте на базе AI.
Быстрый старт
- 1
Установите пакет с помощью npm
npm install @openrouter/ai-sdk-provider - 2
Импортируйте провайдер по умолчанию и вызовите generateText, указав ID модели
Что важно знать
- Пакет предназначен для AI SDK v7 и требует Node.js 22 или новее.
- Пакет доступен только в формате ESM.
- API Decisions, используемый моделью оценки, всё ещё находится на стадии альфа-тестирования и может измениться.
Темы
Частые вопросы
- Что такое ai-sdk-provider?
- Пакет-провайдер связывает Vercel AI SDK с OpenRouter и открывает доступ к сотням LLM через единый API. Этот пакет — провайдер OpenRouter для Vercel AI SDK. Он позволяет вызывать сотни языковых моделей, размещённых на OpenRouter, через привычные функции AI SDK, например generateText и streamText: достаточно передать в аргумент model ID модели OpenRouter.
- ai-sdk-provider можно использовать бесплатно? Какая у него лицензия?
- ai-sdk-provider распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- ai-sdk-provider всё ещё поддерживается?
- Активно поддерживается. Последний коммит в ai-sdk-provider — 4 нояб. 2026 г..
- Для чего можно использовать ai-sdk-provider?
- Создание приложения на Next.js или Node.js, в котором пользователи могут выбирать из множества LLM через одну интеграцию. Добавление семантического поиска или RAG-функций с моделями эмбеддингов через AI SDK. Генерация проверенного JSON с включённым исправлением ответов. Учёт стоимости каждого запроса и использования токенов в продукте на базе AI.
- Как установить ai-sdk-provider?
- Установите пакет с помощью npm: npm install @openrouter/ai-sdk-provider Импортируйте провайдер по умолчанию и вызовите generateText, указав ID модели
- Где скачать ai-sdk-provider?
- Исходный код и инструкции по установке — на GitHub: https://github.com/OpenRouterTeam/ai-sdk-provider
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Сервисный движок на Rust и LibTorch для эмбеддингов, реранкинга, классификации и типизированных решений через REST API.
Исследовательский код QD-Rec — метода quality-diversity, который развивает архив пар «объект — гипотеза» для создания разнообразных рекомендаций.
Open-source-пайплайн, который превращает веб-страницы и PDF в скриншоты и ищет по ним визуально, сохраняя таблицы и графики для RAG.
Пайплайн эмбеддингов на Rust: обрабатывает текст, PDF, изображения, аудио и сайты, создаёт векторы локально или с помощью облачных моделей и передаёт их в векторные базы данных.
Плагин для LLM, который добавляет доступ к моделям Google Gemini в CLI-инструменте и библиотеке Python LLM.