Repolode
ollama

ollama/ollama-python

Ollama 官方 Python 客户端库,用于调用本地与云端模型的对话、生成、向量嵌入等接口。

Star
10,611
Fork
1,209
未关闭 Issue
223
最近提交
4天前

这是什么?

Ollama Python 库是 Ollama REST API 的客户端,让 Python 3.8+ 项目可以调用运行中的 Ollama 服务所提供的模型。它把对话、文本生成、向量嵌入、模型列表、拉取、推送、复制、删除和运行状态查询封装为简洁的函数,并同时提供同步和异步客户端。

响应既可以一次性返回,也可以按片段流式输出。同一个客户端既能连接本地 Ollama 服务,也能通过 API Key 直接访问 ollama.com 上的云端接口。登录后,gpt-oss:120b-cloud 等云端模型可以通过本地服务运行。HTTP 状态错误或流式传输中的错误会以 ResponseError 形式抛出。

库中还提供 System One 接口,用于结构化决策,例如从多个选项中选择、按量表打分,或返回是否的概率,底层可使用 nimble、clef 等决策模型。

核心功能

  • 01提供与 Ollama REST API 对应的对话、生成和向量嵌入调用。
  • 02通过 stream=True 支持同步和异步的流式响应。
  • 03Client 与 AsyncClient 支持自定义 host 和请求头。
  • 04提供模型的列出、查看、创建、拉取、推送、复制和删除功能。
  • 05可通过本地服务或 API Key 直接访问 ollama.com 上的云端模型。
  • 06内置 System One 接口,支持选择题、是非题和评分类结构化决策。

适用场景

  • 在 Python Web 应用或脚本中加入本地大模型对话功能。
  • 为搜索或检索流程生成文本向量嵌入。
  • 用同一套代码在本地模型与云端模型之间切换。
  • 用结构化决策问题实现自动分诊或分类步骤。

快速上手

  1. 1

    安装 Ollama 并确保其正在运行

  2. 2

    拉取要使用的模型

    ollama pull gemma4
  3. 3

    安装 Python 库

    pip install ollama
  4. 4

    在 Python 中调用聊天接口

使用前须知

  • 需要在本地安装并运行 Ollama 服务,或使用 Ollama API 密钥访问云端模型。
  • 云端模型需要 Ollama 账户,部分云端 API 访问可能需要付费套餐。

标签

常见问题

ollama-python 是什么?
Ollama 官方 Python 客户端库,用于调用本地与云端模型的对话、生成、向量嵌入等接口。 Ollama Python 库是 Ollama REST API 的客户端,让 Python 3.8+ 项目可以调用运行中的 Ollama 服务所提供的模型。它把对话、文本生成、向量嵌入、模型列表、拉取、推送、复制、删除和运行状态查询封装为简洁的函数,并同时提供同步和异步客户端。
ollama-python 可以免费使用吗?用的什么许可证?
ollama-python 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
ollama-python 还在维护吗?
活跃维护中。ollama-python 最近一次提交是在 2026年10月16日。
ollama-python 适合用来做什么?
在 Python Web 应用或脚本中加入本地大模型对话功能。 为搜索或检索流程生成文本向量嵌入。 用同一套代码在本地模型与云端模型之间切换。 用结构化决策问题实现自动分诊或分类步骤。
ollama-python 怎么安装和运行?
安装 Ollama 并确保其正在运行 拉取要使用的模型: ollama pull gemma4 安装 Python 库: pip install ollama 在 Python 中调用聊天接口
在哪里获取 ollama-python?
源代码和安装说明在 GitHub 上:https://github.com/ollama/ollama-python

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目