Servidor de inferência autogerenciado que oferece modelos de embeddings, reranking, OCR, extração, segurança e LLM em um único cluster por uma API compatível com OpenAI.
3,5 mil+19 esta semana333PythonApache-2.0Bem mantidoAtualizado há 15 horas
OpenRouterTeam/ai-sdk-provider
Pacote de provider que conecta o Vercel AI SDK ao OpenRouter e dá acesso a centenas de LLMs por uma única API.
- Estrelas
- 695
- Forks
- 176
- Issues abertas
- 46
- Último commit
- anteontem
O que é?
Este pacote é o provider do OpenRouter para o Vercel AI SDK. Com ele, desenvolvedores podem chamar centenas de modelos de linguagem hospedados no OpenRouter usando as mesmas funções do AI SDK que já utilizam, como generateText e streamText, bastando trocar o argumento do modelo pelo ID de um modelo do OpenRouter.
Além de chat e completion, o pacote oferece suporte a embeddings e modelos de reranking, além de um modelo experimental de decisão para avaliação do AI SDK. Também permite enviar campos extras na requisição ao OpenRouter, definir opções de detalhamento de imagem e processamento de vídeo para entradas multimodais, usar cache de prompt e headers beta da Anthropic, corrigir respostas para gerar JSON estruturado e contabilizar uso e custos. A linha de versões para o AI SDK v7 exige Node.js 22 ou mais recente e é exclusivamente ESM; versões anteriores continuam disponíveis para o AI SDK v5 e v6.
Recursos principais
- 01Alterne entre centenas de modelos do OpenRouter trocando um único ID de modelo.
- 02Oferece interfaces para modelos de embeddings e reranking no AI SDK.
- 03Encaminha campos extras da requisição ao OpenRouter via providerOptions ou configurações do modelo.
- 04Oferece suporte a opções de detalhamento de imagem e processamento de vídeo para entradas multimodais.
- 05Inclui suporte a cache de prompt e headers beta da Anthropic.
- 06Informa o uso de tokens e o custo da requisição nos metadados do provider.
Casos de uso
- Criar um app em Next.js ou Node.js que permita aos usuários escolher entre vários LLMs por meio de uma única integração.
- Adicionar recursos de busca semântica ou RAG com modelos de embeddings pelo AI SDK.
- Gerar respostas JSON validadas com os recursos de correção de resposta ativados.
- Acompanhar o custo por requisição e o uso de tokens em um produto com IA.
Início rápido
- 1
Instale o pacote com npm
npm install @openrouter/ai-sdk-provider - 2
Importe o provider padrão e chame generateText com um ID de modelo
Antes de usar
- É voltado para o AI SDK v7 e requer Node.js 22 ou superior.
- O pacote é compatível apenas com ESM.
- A API Decisions usada pelo modelo de avaliação ainda está em alfa e pode mudar.
Tópicos
Perguntas frequentes
- O que é ai-sdk-provider?
- Pacote de provider que conecta o Vercel AI SDK ao OpenRouter e dá acesso a centenas de LLMs por uma única API. Este pacote é o provider do OpenRouter para o Vercel AI SDK. Com ele, desenvolvedores podem chamar centenas de modelos de linguagem hospedados no OpenRouter usando as mesmas funções do AI SDK que já utilizam, como generateText e streamText, bastando trocar o argumento do modelo pelo ID de um modelo do OpenRouter.
- ai-sdk-provider é gratuito? Qual é a licença?
- ai-sdk-provider é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
- ai-sdk-provider ainda é mantido?
- Manutenção ativa. O último commit de ai-sdk-provider foi em 4 de nov. de 2026.
- Para que posso usar ai-sdk-provider?
- Criar um app em Next.js ou Node.js que permita aos usuários escolher entre vários LLMs por meio de uma única integração. Adicionar recursos de busca semântica ou RAG com modelos de embeddings pelo AI SDK. Gerar respostas JSON validadas com os recursos de correção de resposta ativados. Acompanhar o custo por requisição e o uso de tokens em um produto com IA.
- Como instalar ai-sdk-provider?
- Instale o pacote com npm: npm install @openrouter/ai-sdk-provider Importe o provider padrão e chame generateText com um ID de modelo
- Onde consigo ai-sdk-provider?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/OpenRouterTeam/ai-sdk-provider
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Um mecanismo de serving em Rust/LibTorch que oferece embeddings, reranking, classificação e decisões tipadas por uma REST API.
3 mil+7 esta semana220RustMITBem mantidoAtualizado anteontem
Código de pesquisa do QD-Rec, um método de diversidade de qualidade que evolui um arquivo de pares item-hipótese para gerar recomendações diversas.
397PythonApache-2.0Atualizado há 19 dias
Pipeline open source que transforma páginas da web e PDFs em capturas de tela e faz buscas visuais, preservando tabelas e gráficos para RAG.
10,9 mil+64 esta semana981PythonApache-2.0Bem mantidoAtualizado ontem
Pipeline de embeddings em Rust que ingere textos, PDFs, imagens, áudios e sites, gera embeddings localmente ou com modelos na nuvem e os envia para bancos de dados vetoriais.
1,3 mil+1 esta semana140RustApache-2.0Atualizado há 12 dias
Plugin de LLM que dá acesso aos modelos Gemini do Google pela ferramenta de linha de comando e pela biblioteca Python LLM.
46562PythonApache-2.0Atualizado há 24 dias