Repolode
ollama

ollama/ollama-js

Node.js와 브라우저에서 로컬 또는 클라우드 LLM과 대화하고 관리할 수 있는 Ollama 공식 JavaScript/TypeScript 클라이언트 라이브러리입니다.

스타
4,397
포크
482
열린 이슈
99
마지막 커밋
6일 전

어떤 프로젝트인가요?

ollama-js는 대규모 언어 모델을 실행하는 런타임인 Ollama의 공식 JavaScript 클라이언트입니다. Ollama REST API를 Promise 기반 인터페이스로 감싸 Node.js와 브라우저 애플리케이션에서 채팅 및 생성 요청을 보내고, 모델을 pull하거나 push하고, 커스텀 모델을 만들고, 설치된 항목을 나열하거나 확인할 수 있습니다.

이 라이브러리는 npm에서 `ollama`로 설치하며, Node.js 외부에서 사용할 수 있는 별도의 `ollama/browser` 진입점도 제공합니다. 비동기 제너레이터를 통해 응답을 스트리밍할 수 있으며, 커스텀 클라이언트에서 호스트, fetch 구현, 헤더를 설정할 수 있습니다. 또한 임베딩, tool calling, 이미지 입력과 활성 스트림을 취소하는 abort 메서드도 지원합니다.

클라우드 모델도 지원합니다. 로컬 Ollama 인스턴스에 로그인하거나 API 키를 사용해 클라이언트가 ollama.com을 가리키도록 설정하면, 같은 호출로 더 큰 호스팅 모델을 실행할 수 있습니다. 웹 검색 및 웹 가져오기 헬퍼와 System One 의사결정 API도 포함되어 있습니다.

핵심 기능

  • 01비동기 제너레이터를 통한 선택적 스트리밍을 지원하는 채팅 및 생성 요청.
  • 02모델 관리 메서드: pull, push, create, copy, delete, list, show.
  • 03임베딩 생성 및 tool calling 지원.
  • 04`ollama/browser` 별도 브라우저 진입점.
  • 05호스트, fetch, 요청 헤더를 설정하는 커스텀 클라이언트 옵션.
  • 06API 키를 사용한 ollama.com 클라우드 모델 액세스.

활용 사례

  • Node.js 백엔드나 스크립트에 로컬 LLM 채팅 기능 추가.
  • 로컬 Ollama 서버와 통신하는 브라우저 기반 채팅 인터페이스 구축.
  • JavaScript 코드로 검색 또는 검색 증강 파이프라인용 임베딩 생성.
  • 로컬 모델에 사용하던 것과 같은 코드로 더 큰 호스팅 모델 호출.

빠른 시작

  1. 1

    npm으로 라이브러리를 설치합니다

    npm i ollama
  2. 2

    클라이언트를 가져온 다음 모델을 지정해 chat을 호출합니다

사용 전 알아둘 점

  • 실행 중인 Ollama 서버 또는 클라우드 모델용 Ollama 계정 API 키가 필요합니다.
  • 웹 검색 및 클라우드 모델과 같은 클라우드 기능을 사용하려면 Ollama 계정이 필요합니다.

토픽

자주 묻는 질문

ollama-js은(는) 무엇인가요?
Node.js와 브라우저에서 로컬 또는 클라우드 LLM과 대화하고 관리할 수 있는 Ollama 공식 JavaScript/TypeScript 클라이언트 라이브러리입니다. ollama-js는 대규모 언어 모델을 실행하는 런타임인 Ollama의 공식 JavaScript 클라이언트입니다. Ollama REST API를 Promise 기반 인터페이스로 감싸 Node.js와 브라우저 애플리케이션에서 채팅 및 생성 요청을 보내고, 모델을 pull하거나 push하고, 커스텀 모델을 만들고, 설치된 항목을 나열하거나 확인할 수 있습니다.
ollama-js은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
ollama-js은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
ollama-js은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. ollama-js의 마지막 커밋은 2026년 10월 16일입니다.
ollama-js은(는) 어디에 사용할 수 있나요?
Node.js 백엔드나 스크립트에 로컬 LLM 채팅 기능 추가. 로컬 Ollama 서버와 통신하는 브라우저 기반 채팅 인터페이스 구축. JavaScript 코드로 검색 또는 검색 증강 파이프라인용 임베딩 생성. 로컬 모델에 사용하던 것과 같은 코드로 더 큰 호스팅 모델 호출.
ollama-js는 어떻게 설치하나요?
npm으로 라이브러리를 설치합니다: npm i ollama 클라이언트를 가져온 다음 모델을 지정해 chat을 호출합니다
ollama-js은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/ollama/ollama-js

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트