OpenAI 官方 Python SDK,提供同步与异步客户端,并带有完整类型定义。
ollama/ollama-python
Ollama 官方 Python 客户端库,用于调用本地与云端模型的对话、生成、向量嵌入等接口。
- Star
- 10,611
- Fork
- 1,209
- 未关闭 Issue
- 223
- 最近提交
- 4天前
这是什么?
Ollama Python 库是 Ollama REST API 的客户端,让 Python 3.8+ 项目可以调用运行中的 Ollama 服务所提供的模型。它把对话、文本生成、向量嵌入、模型列表、拉取、推送、复制、删除和运行状态查询封装为简洁的函数,并同时提供同步和异步客户端。
响应既可以一次性返回,也可以按片段流式输出。同一个客户端既能连接本地 Ollama 服务,也能通过 API Key 直接访问 ollama.com 上的云端接口。登录后,gpt-oss:120b-cloud 等云端模型可以通过本地服务运行。HTTP 状态错误或流式传输中的错误会以 ResponseError 形式抛出。
库中还提供 System One 接口,用于结构化决策,例如从多个选项中选择、按量表打分,或返回是否的概率,底层可使用 nimble、clef 等决策模型。
核心功能
- 01提供与 Ollama REST API 对应的对话、生成和向量嵌入调用。
- 02通过 stream=True 支持同步和异步的流式响应。
- 03Client 与 AsyncClient 支持自定义 host 和请求头。
- 04提供模型的列出、查看、创建、拉取、推送、复制和删除功能。
- 05可通过本地服务或 API Key 直接访问 ollama.com 上的云端模型。
- 06内置 System One 接口,支持选择题、是非题和评分类结构化决策。
适用场景
- 在 Python Web 应用或脚本中加入本地大模型对话功能。
- 为搜索或检索流程生成文本向量嵌入。
- 用同一套代码在本地模型与云端模型之间切换。
- 用结构化决策问题实现自动分诊或分类步骤。
快速上手
- 1
安装 Ollama 并确保其正在运行
- 2
拉取要使用的模型
ollama pull gemma4 - 3
安装 Python 库
pip install ollama - 4
在 Python 中调用聊天接口
使用前须知
- 需要在本地安装并运行 Ollama 服务,或使用 Ollama API 密钥访问云端模型。
- 云端模型需要 Ollama 账户,部分云端 API 访问可能需要付费套餐。
标签
常见问题
- ollama-python 是什么?
- Ollama 官方 Python 客户端库,用于调用本地与云端模型的对话、生成、向量嵌入等接口。 Ollama Python 库是 Ollama REST API 的客户端,让 Python 3.8+ 项目可以调用运行中的 Ollama 服务所提供的模型。它把对话、文本生成、向量嵌入、模型列表、拉取、推送、复制、删除和运行状态查询封装为简洁的函数,并同时提供同步和异步客户端。
- ollama-python 可以免费使用吗?用的什么许可证?
- ollama-python 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- ollama-python 还在维护吗?
- 活跃维护中。ollama-python 最近一次提交是在 2026年10月16日。
- ollama-python 适合用来做什么?
- 在 Python Web 应用或脚本中加入本地大模型对话功能。 为搜索或检索流程生成文本向量嵌入。 用同一套代码在本地模型与云端模型之间切换。 用结构化决策问题实现自动分诊或分类步骤。
- ollama-python 怎么安装和运行?
- 安装 Ollama 并确保其正在运行 拉取要使用的模型: ollama pull gemma4 安装 Python 库: pip install ollama 在 Python 中调用聊天接口
- 在哪里获取 ollama-python?
- 源代码和安装说明在 GitHub 上:https://github.com/ollama/ollama-python
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
一个命令行工具和 Python 库,用于调用远程及本地部署的大语言模型运行提示词和对话。
一个基于 LLM 与图结构流水线的 Python 网页抓取库,按自然语言描述提取结构化数据。
本地向量索引与 RAG 工具,通过按需重算向量将存储占用降低约 97%,可在笔记本上检索个人数据。
基于 LangGraph 构建的模块化 Agentic RAG 教程与项目,支持层级索引、对话记忆和查询澄清。
一个本地知识图谱工具,本地模型逐步推理,推理过程转为 RDF 图谱,全部在本机通过 Ollama 运行。