Repolode
ollama

ollama/ollama-js

Ollama 官方 JavaScript/TypeScript 客户端库,可在 Node.js 和浏览器中调用与管理本地或云端大模型。

Star
4,397
Fork
482
未关闭 Issue
99
最近提交
6天前

这是什么?

ollama-js 是 Ollama 的官方 JavaScript 客户端。Ollama 是一个用于运行大语言模型的运行时,该库把它的 REST API 封装为基于 Promise 的接口,Node.js 和浏览器应用都可以用来发起对话与生成请求、拉取或推送模型、创建自定义模型,以及查看已安装的模型。

库通过 npm 以 `ollama` 包名安装,浏览器环境可使用 `ollama/browser` 入口。响应支持通过异步生成器流式返回,自定义客户端可以设置服务地址、fetch 实现和请求头。此外还支持 embedding、工具调用、图片输入,并提供 abort 方法用于中断正在进行的流式请求。

该库也支持云端模型:通过本地 Ollama 登录,或使用 API Key 直接连接 ollama.com,即可用相同的调用方式运行更大的托管模型。库中还包含网页搜索、网页抓取辅助接口,以及 System One 决策接口。

核心功能

  • 01支持聊天与生成请求,可通过异步生成器开启流式输出。
  • 02提供模型管理方法,包括拉取、推送、创建、复制、删除、列出和查看模型。
  • 03支持生成 embedding 和工具调用。
  • 04提供 `ollama/browser` 浏览器入口。
  • 05自定义客户端可配置服务地址、fetch 实现和请求头。
  • 06可通过 API Key 直接访问 ollama.com 上的云端模型。

适用场景

  • 在 Node.js 后端或脚本中接入本地大模型对话功能。
  • 开发连接本地 Ollama 服务的浏览器端聊天界面。
  • 在 JavaScript 代码中生成 embedding,用于搜索或检索流程。
  • 用同一套代码调用本地模型或云端更大的托管模型。

快速上手

  1. 1

    使用 npm 安装库

    npm i ollama
  2. 2

    导入客户端并使用模型调用 chat

使用前须知

  • 需要运行中的 Ollama 服务,或使用 Ollama 账户 API 密钥才能访问云端模型。
  • 网络搜索和云端模型等功能需要 Ollama 账户。

标签

常见问题

ollama-js 是什么?
Ollama 官方 JavaScript/TypeScript 客户端库,可在 Node.js 和浏览器中调用与管理本地或云端大模型。 ollama-js 是 Ollama 的官方 JavaScript 客户端。Ollama 是一个用于运行大语言模型的运行时,该库把它的 REST API 封装为基于 Promise 的接口,Node.js 和浏览器应用都可以用来发起对话与生成请求、拉取或推送模型、创建自定义模型,以及查看已安装的模型。
ollama-js 可以免费使用吗?用的什么许可证?
ollama-js 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
ollama-js 还在维护吗?
活跃维护中。ollama-js 最近一次提交是在 2026年10月16日。
ollama-js 适合用来做什么?
在 Node.js 后端或脚本中接入本地大模型对话功能。 开发连接本地 Ollama 服务的浏览器端聊天界面。 在 JavaScript 代码中生成 embedding,用于搜索或检索流程。 用同一套代码调用本地模型或云端更大的托管模型。
ollama-js 怎么安装和运行?
使用 npm 安装库: npm i ollama 导入客户端并使用模型调用 chat
在哪里获取 ollama-js?
源代码和安装说明在 GitHub 上:https://github.com/ollama/ollama-js

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目