Spring AI와 Spring Boot로 LLM 및 생성형 AI 기능을 구현하는 방법을 보여주는 Java 샘플 애플리케이션 모음입니다.
ollama4j/ollama4j
채팅, 생성, 도구, 임베딩, 모델 관리를 지원하는 Ollama 서버 REST API용 Java 라이브러리입니다.
- 스타
- 509
- 포크
- 85
- 열린 이슈
- 8
- 마지막 커밋
- 12일 전
어떤 프로젝트인가요?
Ollama4j는 Ollama 서버 API를 위한 Java 래퍼입니다. Java 애플리케이션에서 HTTP 요청을 직접 만들지 않고도 로컬에서 실행 중인 대규모 언어 모델과 통신할 수 있으며, Maven 및 Gradle 의존성으로 배포됩니다.
이 라이브러리는 선택적 스트리밍을 지원하는 단일 턴 텍스트 생성, 대화 기록과 역할을 지원하는 멀티턴 채팅, 어노테이션이나 도구 사양을 통한 도구 및 함수 호출, MCP 도구 호출을 지원합니다. 비전 모델용 이미지 입력, 추론 출력, 임베딩, 모델 목록 조회·가져오기·생성·삭제 같은 모델 관리 기능도 제공합니다. Basic auth와 bearer token, 타임아웃, 타입 안전한 옵션 빌더도 포함되어 있습니다.
Java 17 이상과 Ollama 서버가 필요합니다. 프로젝트 설명에 따르면 클라이언트가 호스트를 가리키도록 설정하면 로컬 모델 실행기인 llmman에서도 사용할 수 있습니다.
핵심 기능
- 01스트리밍을 지원하는 단일 턴 생성 및 멀티턴 채팅
- 02어노테이션이나 도구 사양을 통한 도구 및 함수 호출, MCP 도구 호출
- 03비전 지원 모델을 위한 이미지 입력 및 추론 출력
- 04임베딩 생성 및 모델 관리(목록 조회, 가져오기, 생성, 삭제)
- 05Basic auth, bearer token, 타임아웃 설정, 타입 안전한 옵션 빌더
활용 사례
- Java 또는 Spring 백엔드에 로컬 LLM 채팅 기능 추가
- 로컬 모델을 호출하는 도구 사용 에이전트를 Java로 구축
- JVM 애플리케이션에서 시맨틱 검색용 임베딩 생성
빠른 시작
- 1
Maven Central 의존성을 pom.xml에 추가하세요
- 2
Gradle 의존성을 빌드 파일에 추가하세요
implementation 'io.github.ollama4j:ollama4j:{{OLLAMA4J_VERSION}}'
사용 전 알아둘 점
- Java 17 이상과 실행 중인 Ollama 서버(0.11.10 이상)가 필요합니다.
- Java 클라이언트 라이브러리일 뿐이며, 모델을 직접 실행하지 않습니다.
포함된 컬렉션
토픽
자주 묻는 질문
- ollama4j은(는) 무엇인가요?
- 채팅, 생성, 도구, 임베딩, 모델 관리를 지원하는 Ollama 서버 REST API용 Java 라이브러리입니다. Ollama4j는 Ollama 서버 API를 위한 Java 래퍼입니다. Java 애플리케이션에서 HTTP 요청을 직접 만들지 않고도 로컬에서 실행 중인 대규모 언어 모델과 통신할 수 있으며, Maven 및 Gradle 의존성으로 배포됩니다.
- ollama4j은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- ollama4j은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- ollama4j은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. ollama4j의 마지막 커밋은 2026년 10월 26일입니다.
- ollama4j은(는) 어디에 사용할 수 있나요?
- Java 또는 Spring 백엔드에 로컬 LLM 채팅 기능 추가 로컬 모델을 호출하는 도구 사용 에이전트를 Java로 구축 JVM 애플리케이션에서 시맨틱 검색용 임베딩 생성
- ollama4j는 어떻게 설치하나요?
- Maven Central 의존성을 pom.xml에 추가하세요 Gradle 의존성을 빌드 파일에 추가하세요: implementation 'io.github.ollama4j:ollama4j:{{OLLAMA4J_VERSION}}'
- ollama4j은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/ollama4j/ollama4j
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
여러 채팅 완성 및 임베딩 모델, 어시스턴트와 애플리케이션을 위한 통합 API를 제공하는 Java 기반 HTTP 프록시입니다.
OpenAI, Anthropic, Google, Mistral, DeepSeek 등 여러 AI 제공업체의 채팅, 음성, 임베딩을 위한 통합 Ruby API입니다.
문서를 엔티티와 관계로 인덱싱해 검색 증강 LLM 답변을 제공하는 경량 지식 그래프 RAG 프레임워크이자 서버입니다.
각 제공업체의 네이티브 프로토콜을 사용해 다양한 AI 제공업체와 대화할 수 있는 공통 API를 제공하는 Rust 라이브러리입니다.
여러 에이전트가 도구를 사용해 협력하는 LLM 애플리케이션과 검색 증강 생성 시스템을 구축하는 Python 프레임워크입니다.