Repolode
Enviar
ollama

ollama/ollama-js

Biblioteca cliente oficial de JavaScript/TypeScript para o Ollama, para conversar com LLMs locais ou na nuvem e gerenciá-los no Node.js e em navegadores.

Ver no GitHubSite
Estrelas
4,397
Forks
482
Issues abertas
99
Último commit
há 6 dias

O que é?

ollama-js é o cliente oficial de JavaScript para o Ollama, um runtime para executar modelos de linguagem de grande porte. Ele encapsula a API REST do Ollama em uma interface baseada em promises, permitindo que aplicações Node.js e de navegador enviem solicitações de chat e geração, baixem ou enviem modelos, criem modelos personalizados e listem ou inspecionem o que está instalado.

A biblioteca pode ser instalada pelo npm como `ollama` e oferece um ponto de entrada separado, `ollama/browser`, para uso fora do Node. As respostas podem ser transmitidas por um gerador assíncrono, e um cliente personalizado permite definir o host, a implementação de fetch e os headers. A biblioteca também oferece suporte a embeddings, chamadas de ferramentas, imagens como entrada e um método de abort para cancelar streams ativos.

Ela também oferece suporte a modelos na nuvem: basta entrar em uma instância local do Ollama ou apontar o cliente para ollama.com com uma chave de API para executar modelos hospedados maiores usando as mesmas chamadas. Também estão incluídos recursos auxiliares de busca e captura de conteúdo na web, além de uma API de decisão System One.

Recursos principais

  • 01Envie solicitações de chat e geração, com streaming opcional por meio de geradores assíncronos.
  • 02Métodos para gerenciar modelos: baixar, enviar, criar, copiar, excluir, listar e exibir.
  • 03Geração de embeddings e suporte a chamadas de ferramentas.
  • 04Ponto de entrada separado para navegadores em `ollama/browser`.
  • 05Opções para personalizar host, fetch e headers das solicitações do cliente.
  • 06Acesso a modelos na nuvem pelo ollama.com com uma chave de API.

Casos de uso

  • Adicionar um recurso de chat com LLM local a um backend ou script em Node.js.
  • Criar uma interface de chat no navegador que se comunica com um servidor Ollama local.
  • Gerar embeddings em código JavaScript para pipelines de busca ou recuperação de informações.
  • Chamar modelos hospedados maiores usando o mesmo código usado para modelos locais.

Início rápido

  1. 1

    Instale a biblioteca com npm

    npm i ollama
  2. 2

    Importe o cliente e chame chat com um modelo

Antes de usar

  • É necessário ter um servidor Ollama em execução ou uma chave de API de uma conta Ollama para usar modelos na nuvem.
  • Recursos na nuvem, como pesquisa na Web e modelos na nuvem, exigem uma conta Ollama.

Tópicos

#llm#ollama#javascript#typescript#chat-api#embeddings#streaming#js

Perguntas frequentes

O que é ollama-js?
Biblioteca cliente oficial de JavaScript/TypeScript para o Ollama, para conversar com LLMs locais ou na nuvem e gerenciá-los no Node.js e em navegadores. ollama-js é o cliente oficial de JavaScript para o Ollama, um runtime para executar modelos de linguagem de grande porte. Ele encapsula a API REST do Ollama em uma interface baseada em promises, permitindo que aplicações Node.js e de navegador enviem solicitações de chat e geração, baixem ou enviem modelos, criem modelos personalizados e listem ou inspecionem o que está instalado.
ollama-js é gratuito? Qual é a licença?
ollama-js é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
ollama-js ainda é mantido?
Manutenção ativa. O último commit de ollama-js foi em 16 de out. de 2026.
Para que posso usar ollama-js?
Adicionar um recurso de chat com LLM local a um backend ou script em Node.js. Criar uma interface de chat no navegador que se comunica com um servidor Ollama local. Gerar embeddings em código JavaScript para pipelines de busca ou recuperação de informações. Chamar modelos hospedados maiores usando o mesmo código usado para modelos locais.
Como instalar ollama-js?
Instale a biblioteca com npm: npm i ollama Importe o cliente e chame chat com um modelo
Onde consigo ollama-js?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/ollama/ollama-js

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados