Ollama 官方 Python 客户端库,用于调用本地与云端模型的对话、生成、向量嵌入等接口。
ollama/ollama-js
Ollama 官方 JavaScript/TypeScript 客户端库,可在 Node.js 和浏览器中调用与管理本地或云端大模型。
- Star
- 4,397
- Fork
- 482
- 未关闭 Issue
- 99
- 最近提交
- 6天前
这是什么?
ollama-js 是 Ollama 的官方 JavaScript 客户端。Ollama 是一个用于运行大语言模型的运行时,该库把它的 REST API 封装为基于 Promise 的接口,Node.js 和浏览器应用都可以用来发起对话与生成请求、拉取或推送模型、创建自定义模型,以及查看已安装的模型。
库通过 npm 以 `ollama` 包名安装,浏览器环境可使用 `ollama/browser` 入口。响应支持通过异步生成器流式返回,自定义客户端可以设置服务地址、fetch 实现和请求头。此外还支持 embedding、工具调用、图片输入,并提供 abort 方法用于中断正在进行的流式请求。
该库也支持云端模型:通过本地 Ollama 登录,或使用 API Key 直接连接 ollama.com,即可用相同的调用方式运行更大的托管模型。库中还包含网页搜索、网页抓取辅助接口,以及 System One 决策接口。
核心功能
- 01支持聊天与生成请求,可通过异步生成器开启流式输出。
- 02提供模型管理方法,包括拉取、推送、创建、复制、删除、列出和查看模型。
- 03支持生成 embedding 和工具调用。
- 04提供 `ollama/browser` 浏览器入口。
- 05自定义客户端可配置服务地址、fetch 实现和请求头。
- 06可通过 API Key 直接访问 ollama.com 上的云端模型。
适用场景
- 在 Node.js 后端或脚本中接入本地大模型对话功能。
- 开发连接本地 Ollama 服务的浏览器端聊天界面。
- 在 JavaScript 代码中生成 embedding,用于搜索或检索流程。
- 用同一套代码调用本地模型或云端更大的托管模型。
快速上手
- 1
使用 npm 安装库
npm i ollama - 2
导入客户端并使用模型调用 chat
使用前须知
- 需要运行中的 Ollama 服务,或使用 Ollama 账户 API 密钥才能访问云端模型。
- 网络搜索和云端模型等功能需要 Ollama 账户。
标签
常见问题
- ollama-js 是什么?
- Ollama 官方 JavaScript/TypeScript 客户端库,可在 Node.js 和浏览器中调用与管理本地或云端大模型。 ollama-js 是 Ollama 的官方 JavaScript 客户端。Ollama 是一个用于运行大语言模型的运行时,该库把它的 REST API 封装为基于 Promise 的接口,Node.js 和浏览器应用都可以用来发起对话与生成请求、拉取或推送模型、创建自定义模型,以及查看已安装的模型。
- ollama-js 可以免费使用吗?用的什么许可证?
- ollama-js 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- ollama-js 还在维护吗?
- 活跃维护中。ollama-js 最近一次提交是在 2026年10月16日。
- ollama-js 适合用来做什么?
- 在 Node.js 后端或脚本中接入本地大模型对话功能。 开发连接本地 Ollama 服务的浏览器端聊天界面。 在 JavaScript 代码中生成 embedding,用于搜索或检索流程。 用同一套代码调用本地模型或云端更大的托管模型。
- ollama-js 怎么安装和运行?
- 使用 npm 安装库: npm i ollama 导入客户端并使用模型调用 chat
- 在哪里获取 ollama-js?
- 源代码和安装说明在 GitHub 上:https://github.com/ollama/ollama-js
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
一个命令行工具和 Python 库,用于调用远程及本地部署的大语言模型运行提示词和对话。
用于构建 LLM 应用和智能体的 TypeScript 框架,提供模型、工具、嵌入和向量库的统一接口。
基于 ProseMirror 的无界面富文本编辑器框架,可与多种前端框架配合,通过扩展灵活定制。
Node.js 是一个开源、跨平台的 JavaScript 运行时,可在浏览器之外运行 JavaScript。
Anthropic 官方的 TypeScript SDK,用于在服务端 JavaScript/TypeScript 应用中调用 Claude API。