Repolode
Предложить
ollama

ollama/ollama-python

Официальная клиентская библиотека Python для работы с локальными и облачными моделями Ollama через API чата, генерации, эмбеддингов и управления моделями.

Открыть на GitHubСайт
Звёзды
10,611
Форки
1,209
Открытые issues
223
Последний коммит
4 дня назад

Что это?

Библиотека Ollama для Python — клиент для REST API Ollama, который позволяет проектам на Python 3.8+ обращаться к моделям, запущенным в работающем экземпляре Ollama. Она предоставляет набор функций для вызовов chat, generate, embed, list, pull, push, copy, delete и получения статуса процессов, а также синхронные и асинхронные клиенты.

Ответы можно получать целиком или потоково, по частям. Один и тот же клиент работает как с локальным сервером Ollama, так и с облачным API на ollama.com с использованием API key. Облачные модели, например gpt-oss:120b-cloud, можно запускать через локальный сервер после входа в аккаунт или вызывать напрямую. Если HTTP-статус указывает на ошибку или сбой происходит во время потоковой передачи, библиотека выбрасывает ResponseError.

В библиотеку также входит API System One для структурированных решений: например, выбора одного из нескольких вариантов, оценки по шкале или определения вероятности ответа «да» или «нет» с помощью моделей принятия решений, таких как nimble и clef.

Ключевые возможности

  • 01Вызовы chat, generate и embed, соответствующие REST API Ollama.
  • 02Потоковая передача ответов через stream=True в синхронном и асинхронном режимах.
  • 03Классы Client и AsyncClient с поддержкой пользовательского host и заголовков httpx.
  • 04Функции управления моделями: list, show, create, pull, push, copy и delete.
  • 05Доступ к облачным моделям через локальный сервер или напрямую на ollama.com с помощью API key.
  • 06API структурированных решений System One для вопросов с выбором, ответом «да/нет» и оценкой.

Сценарии использования

  • Добавление чата с локальной LLM в Python-веб-приложение или скрипт.
  • Создание текстовых эмбеддингов для поисковых систем и конвейеров поиска по данным.
  • Переключение между локальными и размещёнными в облаке моделями без изменения кода.
  • Создание автоматизированных этапов сортировки или классификации на основе структурированных вопросов для принятия решений.

Быстрый старт

  1. 1

    Установите Ollama и убедитесь, что он запущен

  2. 2

    Загрузите модель для использования с библиотекой

    ollama pull gemma4
  3. 3

    Установите библиотеку Python

    pip install ollama
  4. 4

    Вызовите API чата из Python

Что важно знать

  • Требуется локально установленный и запущенный сервер Ollama или ключ API Ollama для облачных моделей.
  • Для облачных моделей нужна учетная запись Ollama, а доступ к облачному API может требовать платного тарифа.

Темы

#llm#python-client#ollama#chat-api#embeddings#streaming#async#python

Частые вопросы

Что такое ollama-python?
Официальная клиентская библиотека Python для работы с локальными и облачными моделями Ollama через API чата, генерации, эмбеддингов и управления моделями. Библиотека Ollama для Python — клиент для REST API Ollama, который позволяет проектам на Python 3.8+ обращаться к моделям, запущенным в работающем экземпляре Ollama. Она предоставляет набор функций для вызовов chat, generate, embed, list, pull, push, copy, delete и получения статуса процессов, а также синхронные и асинхронные клиенты.
ollama-python можно использовать бесплатно? Какая у него лицензия?
ollama-python распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
ollama-python всё ещё поддерживается?
Активно поддерживается. Последний коммит в ollama-python — 16 окт. 2026 г..
Для чего можно использовать ollama-python?
Добавление чата с локальной LLM в Python-веб-приложение или скрипт. Создание текстовых эмбеддингов для поисковых систем и конвейеров поиска по данным. Переключение между локальными и размещёнными в облаке моделями без изменения кода. Создание автоматизированных этапов сортировки или классификации на основе структурированных вопросов для принятия решений.
Как установить ollama-python?
Установите Ollama и убедитесь, что он запущен Загрузите модель для использования с библиотекой: ollama pull gemma4 Установите библиотеку Python: pip install ollama Вызовите API чата из Python
Где скачать ollama-python?
Исходный код и инструкции по установке — на GitHub: https://github.com/ollama/ollama-python

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты