OpenAI 호환 API로 임베딩, 리랭킹, OCR, 추출, 안전성 및 LLM 모델을 제공하는 셀프 호스팅 추론 서버
OpenRouterTeam/ai-sdk-provider
Vercel AI SDK를 OpenRouter에 연결해 단일 API로 수백 개의 LLM을 사용할 수 있게 해주는 provider 패키지입니다.
- 스타
- 695
- 포크
- 176
- 열린 이슈
- 46
- 마지막 커밋
- 그저께
어떤 프로젝트인가요?
이 패키지는 Vercel AI SDK용 OpenRouter provider입니다. 모델 인자를 OpenRouter 모델 ID로 바꾸기만 하면, generateText와 streamText처럼 이미 사용 중인 AI SDK 함수로 OpenRouter에서 제공하는 수백 개의 언어 모델을 호출할 수 있습니다.
채팅과 텍스트 생성 외에도 임베딩 및 reranking 모델, AI SDK 평가를 위한 실험적 decision model을 지원합니다. OpenRouter에 추가 요청 필드를 전달하고, 멀티모달 입력에 이미지 상세도와 비디오 처리 옵션을 지정하며, Anthropic prompt caching과 beta 헤더, 구조화된 JSON 출력을 위한 response healing, 사용량 및 비용 집계 기능도 제공합니다. AI SDK v7용 릴리스는 Node.js 22 이상이 필요하고 ESM만 지원하며, AI SDK v5 및 v6용 이전 릴리스도 계속 이용할 수 있습니다.
핵심 기능
- 01모델 ID 하나만 바꿔 수백 개의 OpenRouter 모델을 전환할 수 있습니다.
- 02AI SDK에서 사용할 수 있는 임베딩 및 reranking 모델 인터페이스를 제공합니다.
- 03providerOptions 또는 모델 설정을 통해 추가 요청 필드를 OpenRouter로 전달합니다.
- 04멀티모달 입력에 이미지 상세도 및 비디오 처리 옵션을 지원합니다.
- 05Anthropic prompt caching과 beta 헤더를 지원합니다.
- 06provider 메타데이터에 토큰 사용량과 요청 비용을 기록합니다.
활용 사례
- 사용자가 하나의 통합 기능으로 다양한 LLM 중에서 선택할 수 있는 Next.js 또는 Node.js 앱을 구축할 때.
- AI SDK를 통해 임베딩 모델을 활용해 시맨틱 검색 또는 RAG 기능을 추가할 때.
- response healing을 활성화해 모델에서 검증된 JSON 출력을 생성할 때.
- AI 기반 제품에서 요청별 비용과 토큰 사용량을 추적할 때.
빠른 시작
- 1
npm으로 패키지를 설치합니다
npm install @openrouter/ai-sdk-provider - 2
기본 provider를 가져오고 모델 ID를 지정해 generateText를 호출합니다
사용 전 알아둘 점
- AI SDK v7을 대상으로 하며 Node.js 22 이상이 필요합니다.
- 이 패키지는 ESM 전용입니다.
- 평가 모델에서 사용하는 Decisions API는 아직 알파 버전이며 변경될 수 있습니다.
토픽
자주 묻는 질문
- ai-sdk-provider은(는) 무엇인가요?
- Vercel AI SDK를 OpenRouter에 연결해 단일 API로 수백 개의 LLM을 사용할 수 있게 해주는 provider 패키지입니다. 이 패키지는 Vercel AI SDK용 OpenRouter provider입니다. 모델 인자를 OpenRouter 모델 ID로 바꾸기만 하면, generateText와 streamText처럼 이미 사용 중인 AI SDK 함수로 OpenRouter에서 제공하는 수백 개의 언어 모델을 호출할 수 있습니다.
- ai-sdk-provider은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- ai-sdk-provider은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- ai-sdk-provider은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. ai-sdk-provider의 마지막 커밋은 2026년 11월 4일입니다.
- ai-sdk-provider은(는) 어디에 사용할 수 있나요?
- 사용자가 하나의 통합 기능으로 다양한 LLM 중에서 선택할 수 있는 Next.js 또는 Node.js 앱을 구축할 때. AI SDK를 통해 임베딩 모델을 활용해 시맨틱 검색 또는 RAG 기능을 추가할 때. response healing을 활성화해 모델에서 검증된 JSON 출력을 생성할 때. AI 기반 제품에서 요청별 비용과 토큰 사용량을 추적할 때.
- ai-sdk-provider는 어떻게 설치하나요?
- npm으로 패키지를 설치합니다: npm install @openrouter/ai-sdk-provider 기본 provider를 가져오고 모델 ID를 지정해 generateText를 호출합니다
- ai-sdk-provider은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/OpenRouterTeam/ai-sdk-provider
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
REST API로 임베딩, 리랭킹, 분류, 타입 지정 의사결정을 제공하는 Rust/LibTorch 서빙 엔진입니다.
다양한 추천을 생성하기 위해 아이템-가설 쌍 아카이브를 진화시키는 품질 다양성 기법 QD-Rec의 연구용 코드입니다.
웹 페이지와 PDF를 스크린샷으로 렌더링해 시각적으로 검색하는 오픈소스 파이프라인으로, 표와 차트를 RAG에 그대로 보존합니다.
Rust 기반 임베딩 파이프라인으로, 텍스트·PDF·이미지·오디오·웹사이트를 입력받아 로컬 또는 클라우드 모델로 임베딩을 생성하고 벡터 데이터베이스에 스트리밍합니다.
LLM 명령줄 도구와 Python 라이브러리에서 Google Gemini 모델을 사용할 수 있게 해주는 LLM 플러그인입니다.