Repolode
提交项目
ThomasVitale

ThomasVitale/llm-apps-java-spring-ai

一组基于 Spring AI 与 Spring Boot 的 Java 示例，演示如何构建大模型和生成式 AI 应用。

在 GitHub 查看
Star
787
Fork
192
未关闭 Issue
7
最近提交
昨天

这是什么？

这是一组示例项目，演示如何借助 Spring AI 构建使用大语言模型（LLM）和生成式 AI 的 Java 应用。内容按主题划分，包括基础聊天、向量嵌入、图像与语音模型、提示词模式、结构化输出、多模态、工具调用、对话记忆、安全护栏、文档导入以及多种检索增强生成（RAG）流程。

大多数示例可以在本地通过 Ollama 运行，也提供 OpenAI、Mistral AI 等云端模型提供商的版本。向量存储示例使用 PGVector，部分嵌入示例使用 ONNX Transformers。可观测性示例涵盖模型和向量库的监控，另有一个示例通过 Model Context Protocol 接入 Brave Search API。

项目需要 Java 25，并使用 Podman 或 Docker 启动配套服务。每个示例位于独立目录中，开发者可以按需选取并复用到自己的 Spring 应用里。

核心功能

  • 01覆盖多个提供商的聊天、嵌入、图像和语音模型示例
  • 02提供提示词、结构化输出和工具调用等模式示例
  • 03基于 JDBC 或向量库实现的对话记忆方案
  • 04使用 PGVector 实现的多种 RAG 流程
  • 05LLM 调用与向量存储的可观测性示例

适用场景

  • 在 Spring Boot 服务中使用 Ollama 接入本地大模型聊天机器人
  • 结合 RAG 与 PGVector 构建文档问答系统
  • 学习如何将大模型输出解析为 Java 对象
  • 在 Java 后端中尝试工具调用与 MCP 集成

快速上手

  1. 1

    安装 Java 25 以及 Podman 或 Docker

  2. 2

    从 README 中选择一个示例（如用例或模型目录），并按其自身说明操作

使用前须知

  • 需要 Java 25 以及 Podman 或 Docker。
  • 许多示例依赖 OpenAI 或 Mistral AI 等托管模型服务，需要 API 密钥。
  • 多个部分（包括内容审核、向量存储、评估和智能体）标注为即将推出。

收录于专题

本地运行大模型

标签

#spring-ai#java#llm#rag#ollama#generative-ai#embeddings#large-language-models#openai

常见问题

llm-apps-java-spring-ai 是什么？
一组基于 Spring AI 与 Spring Boot 的 Java 示例，演示如何构建大模型和生成式 AI 应用。 这是一组示例项目，演示如何借助 Spring AI 构建使用大语言模型（LLM）和生成式 AI 的 Java 应用。内容按主题划分，包括基础聊天、向量嵌入、图像与语音模型、提示词模式、结构化输出、多模态、工具调用、对话记忆、安全护栏、文档导入以及多种检索增强生成（RAG）流程。
llm-apps-java-spring-ai 可以免费使用吗？用的什么许可证？
llm-apps-java-spring-ai 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。
llm-apps-java-spring-ai 还在维护吗？
活跃维护中。llm-apps-java-spring-ai 最近一次提交是在 2026年11月6日。
llm-apps-java-spring-ai 适合用来做什么？
在 Spring Boot 服务中使用 Ollama 接入本地大模型聊天机器人 结合 RAG 与 PGVector 构建文档问答系统 学习如何将大模型输出解析为 Java 对象 在 Java 后端中尝试工具调用与 MCP 集成
llm-apps-java-spring-ai 怎么安装和运行？
安装 Java 25 以及 Podman 或 Docker 从 README 中选择一个示例（如用例或模型目录），并按其自身说明操作
在哪里获取 llm-apps-java-spring-ai？
源代码和安装说明在 GitHub 上：https://github.com/ThomasVitale/llm-apps-java-spring-ai

概要由 AI 根据项目 README 生成；GitHub 数据每日更新。

相关项目