Repolode
제출하기
ThomasVitale

ThomasVitale/llm-apps-java-spring-ai

Spring AI와 Spring Boot로 LLM 및 생성형 AI 기능을 구현하는 방법을 보여주는 Java 샘플 애플리케이션 모음입니다.

GitHub에서 보기
스타
787
포크
192
열린 이슈
7
마지막 커밋
15시간 전

어떤 프로젝트인가요?

이 저장소에는 Spring AI를 통해 대규모 언어 모델과 생성형 AI를 활용하는 Java 애플리케이션을 만들기 위한 샘플 프로젝트가 담겨 있습니다. 기본 채팅, 임베딩, 이미지 및 오디오 모델, 프롬프트 패턴, 구조화된 출력, 멀티모달 기능, 도구 호출, 채팅 메모리, 가드레일, 문서 수집, 여러 검색 증강 생성(RAG) 흐름 등 주제별로 구성되어 있습니다.

대부분의 샘플은 Ollama를 사용해 로컬에서 실행되며, 일부는 OpenAI와 Mistral AI 같은 호스팅 제공업체를 사용합니다. 벡터 저장소 예제에는 PGVector를 사용하고, 일부 임베딩 예제에는 ONNX transformers를 사용합니다. 관측 가능성 샘플에서는 모델과 벡터 저장소 모니터링을 다루며, 한 샘플은 Model Context Protocol을 통해 Brave Search API를 연동합니다.

프로젝트를 사용하려면 Java 25와 지원 서비스를 위한 Podman 또는 Docker가 필요합니다. 각 샘플은 별도 폴더에 있으므로, 개발자는 필요한 패턴을 골라 자신의 Spring 애플리케이션에서 재사용할 수 있습니다.

핵심 기능

  • 01여러 제공업체를 활용한 채팅, 임베딩, 이미지 및 오디오 모델 예제
  • 02프롬프트, 구조화된 출력 및 도구 호출 패턴
  • 03JDBC 또는 벡터 저장소를 기반으로 하는 채팅 메모리 구현
  • 04PGVector를 활용한 RAG 흐름(단순, 고급, 분기형, 조건부)
  • 05LLM 호출 및 벡터 저장소를 위한 관측 가능성 샘플

활용 사례

  • Ollama를 사용해 Spring Boot 서비스에 로컬 LLM 챗봇 추가
  • RAG와 PGVector를 활용한 문서 질의응답 시스템 구축
  • LLM 출력에서 구조화된 데이터를 추출해 Java 객체로 변환하는 방법 학습
  • Java 백엔드에서 도구 호출과 MCP 연동 살펴보기

빠른 시작

  1. 1

    Java 25와 Podman 또는 Docker를 설치하세요

  2. 2

    README에서 사용 사례나 모델 폴더 등의 샘플을 선택하고 해당 샘플의 안내를 따르세요

사용 전 알아둘 점

  • Java 25와 Podman 또는 Docker가 필요합니다.
  • 많은 샘플은 OpenAI나 Mistral AI 같은 호스팅 모델 제공업체에 의존하며, API 키가 필요합니다.
  • 모더레이션, 벡터 스토어, 평가, 에이전트 등을 포함한 여러 섹션이 곧 제공될 예정으로 표시되어 있습니다.

포함된 컬렉션

로컬에서 LLM 실행하기

토픽

#spring-ai#java#llm#rag#ollama#generative-ai#embeddings#large-language-models#openai

자주 묻는 질문

llm-apps-java-spring-ai은(는) 무엇인가요?
Spring AI와 Spring Boot로 LLM 및 생성형 AI 기능을 구현하는 방법을 보여주는 Java 샘플 애플리케이션 모음입니다. 이 저장소에는 Spring AI를 통해 대규모 언어 모델과 생성형 AI를 활용하는 Java 애플리케이션을 만들기 위한 샘플 프로젝트가 담겨 있습니다. 기본 채팅, 임베딩, 이미지 및 오디오 모델, 프롬프트 패턴, 구조화된 출력, 멀티모달 기능, 도구 호출, 채팅 메모리, 가드레일, 문서 수집, 여러 검색 증강 생성(RAG) 흐름 등 주제별로 구성되어 있습니다.
llm-apps-java-spring-ai은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
llm-apps-java-spring-ai은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
llm-apps-java-spring-ai은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. llm-apps-java-spring-ai의 마지막 커밋은 2026년 11월 6일입니다.
llm-apps-java-spring-ai은(는) 어디에 사용할 수 있나요?
Ollama를 사용해 Spring Boot 서비스에 로컬 LLM 챗봇 추가 RAG와 PGVector를 활용한 문서 질의응답 시스템 구축 LLM 출력에서 구조화된 데이터를 추출해 Java 객체로 변환하는 방법 학습 Java 백엔드에서 도구 호출과 MCP 연동 살펴보기
llm-apps-java-spring-ai는 어떻게 설치하나요?
Java 25와 Podman 또는 Docker를 설치하세요 README에서 사용 사례나 모델 폴더 등의 샘플을 선택하고 해당 샘플의 안내를 따르세요
llm-apps-java-spring-ai은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/ThomasVitale/llm-apps-java-spring-ai

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트