동기·비동기 클라이언트와 타입 지정 요청·응답 모델을 제공하는 OpenAI REST API 공식 Python 라이브러리입니다.
ollama/ollama-python
Ollama의 로컬 및 클라우드 모델을 chat, generate, embed, 모델 관리 API로 호출할 수 있는 공식 Python 클라이언트 라이브러리입니다.
- 스타
- 10,611
- 포크
- 1,209
- 열린 이슈
- 223
- 마지막 커밋
- 4일 전
어떤 프로젝트인가요?
Ollama Python 라이브러리는 Ollama REST API용 클라이언트로, Python 3.8+ 프로젝트에서 실행 중인 Ollama 인스턴스가 제공하는 모델을 사용할 수 있게 해줍니다. chat, generate, embed, list, pull, push, copy, delete 및 프로세스 상태 확인 호출을 몇 가지 함수로 제공하며, 동기 및 비동기 클라이언트를 모두 지원합니다.
응답은 한 번에 전체를 받거나 청크 단위로 스트리밍할 수 있습니다. 같은 클라이언트로 로컬 Ollama 서버를 이용하거나 API 키를 사용해 ollama.com의 호스팅 클라우드 API를 호출할 수도 있습니다. gpt-oss:120b-cloud 같은 클라우드 모델은 로그인한 뒤 로컬 서버를 통해 실행하거나 직접 호출할 수 있습니다. 성공하지 않은 HTTP 상태 코드나 스트리밍 도중 발생한 오류는 ResponseError로 전달됩니다.
또한 라이브러리에는 여러 선택지 중 하나를 고르거나, 척도에 따라 점수를 매기거나, 예/아니요 확률을 반환하는 등 구조화된 결정을 위한 System One API가 포함되어 있습니다. nimble 및 clef 같은 의사결정 모델을 사용할 수 있습니다.
핵심 기능
- 01Ollama REST API와 동일한 방식으로 chat, generate, embed 호출을 지원합니다.
- 02동기 및 비동기 모드 모두에서 stream=True를 사용해 응답을 스트리밍합니다.
- 03사용자 지정 host와 httpx 헤더를 설정할 수 있는 Client 및 AsyncClient 클래스를 제공합니다.
- 04list, show, create, pull, push, copy, delete 모델 관리 함수를 제공합니다.
- 05API 키를 사용해 로컬 서버를 통해 또는 ollama.com에서 직접 클라우드 모델에 액세스할 수 있습니다.
- 06선택, 예/아니요, 점수 질문을 지원하는 System One 구조화 의사결정 API를 제공합니다.
활용 사례
- Python 웹 앱이나 스크립트에 로컬 LLM 채팅 기능을 추가합니다.
- 검색 또는 검색 증강 파이프라인에 사용할 텍스트 임베딩을 생성합니다.
- 같은 코드로 로컬 모델과 호스팅 클라우드 모델을 전환해 사용합니다.
- 구조화된 의사결정 질문으로 자동 분류 또는 우선순위 분류 단계를 구축합니다.
빠른 시작
- 1
Ollama를 설치하고 실행 중인지 확인합니다
- 2
라이브러리에서 사용할 모델을 pull합니다
ollama pull gemma4 - 3
Python 라이브러리를 설치합니다
pip install ollama - 4
Python에서 채팅 API를 호출합니다
사용 전 알아둘 점
- 로컬에 설치되어 실행 중인 Ollama 서버 또는 클라우드 모델용 Ollama API 키가 필요합니다.
- 클라우드 모델을 사용하려면 Ollama 계정이 필요하며, 클라우드 API 액세스에는 유료 플랜이 필요할 수 있습니다.
토픽
자주 묻는 질문
- ollama-python은(는) 무엇인가요?
- Ollama의 로컬 및 클라우드 모델을 chat, generate, embed, 모델 관리 API로 호출할 수 있는 공식 Python 클라이언트 라이브러리입니다. Ollama Python 라이브러리는 Ollama REST API용 클라이언트로, Python 3.8+ 프로젝트에서 실행 중인 Ollama 인스턴스가 제공하는 모델을 사용할 수 있게 해줍니다. chat, generate, embed, list, pull, push, copy, delete 및 프로세스 상태 확인 호출을 몇 가지 함수로 제공하며, 동기 및 비동기 클라이언트를 모두 지원합니다.
- ollama-python은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- ollama-python은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- ollama-python은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. ollama-python의 마지막 커밋은 2026년 10월 16일입니다.
- ollama-python은(는) 어디에 사용할 수 있나요?
- Python 웹 앱이나 스크립트에 로컬 LLM 채팅 기능을 추가합니다. 검색 또는 검색 증강 파이프라인에 사용할 텍스트 임베딩을 생성합니다. 같은 코드로 로컬 모델과 호스팅 클라우드 모델을 전환해 사용합니다. 구조화된 의사결정 질문으로 자동 분류 또는 우선순위 분류 단계를 구축합니다.
- ollama-python는 어떻게 설치하나요?
- Ollama를 설치하고 실행 중인지 확인합니다 라이브러리에서 사용할 모델을 pull합니다: ollama pull gemma4 Python 라이브러리를 설치합니다: pip install ollama Python에서 채팅 API를 호출합니다
- ollama-python은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/ollama/ollama-python
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
원격 및 로컬 대규모 언어 모델에 프롬프트를 보내고 대화할 수 있는 CLI 도구이자 Python 라이브러리입니다.
LLM과 그래프 기반 파이프라인으로 웹사이트와 로컬 문서에서 데이터를 추출하는 Python 라이브러리
LangGraph 기반의 모듈형 Agentic RAG 튜토리얼로, 계층형 인덱싱과 대화 메모리, 질의 명확화 기능을 제공합니다.
Ollama로 로컬에서 실행하는 모델이 단계별로 추론하고, 그 과정을 RDF 그래프로 저장하는 지식 그래프 도구입니다.
RAG, 벡터 검색, 에이전트, 평가 및 모니터링을 활용해 LLM 애플리케이션을 만드는 무료 오픈소스 10주 온라인 강좌입니다.