App de RAG offline que indexa arquivos locais, repositórios do GitHub e sites e responde a perguntas com modelos locais do Ollama, mantendo os dados na sua rede.
ThomasVitale/llm-apps-java-spring-ai
Coleção de aplicações Java de exemplo que mostram como criar recursos de LLM e IA generativa com Spring AI e Spring Boot.
- Estrelas
- 787
- Forks
- 192
- Issues abertas
- 7
- Último commit
- ontem
O que é?
Este repositório reúne projetos de exemplo para criar aplicações Java que usam Large Language Models e IA generativa por meio do Spring AI. Os projetos são organizados por tema: chat básico, embeddings, modelos de imagem e áudio, padrões de prompt, saída estruturada, multimodalidade, chamadas de ferramentas, memória de chat, guardrails, ingestão de documentos e vários fluxos de geração aumentada por recuperação (RAG).
A maioria dos exemplos roda localmente com Ollama; outros usam provedores hospedados, como OpenAI e Mistral AI. Os exemplos de armazenamento vetorial usam PGVector, e alguns exemplos de embeddings usam transformers ONNX. Os exemplos de observabilidade abrangem o monitoramento de modelos e armazenamentos vetoriais; um deles integra a Brave Search API por meio do Model Context Protocol.
O projeto requer Java 25 e Podman ou Docker para os serviços de suporte. Cada exemplo fica em sua própria pasta, para que os desenvolvedores possam escolher o padrão de que precisam e reutilizá-lo em suas aplicações Spring.
Recursos principais
- 01Exemplos de modelos de chat, embeddings, imagem e áudio com vários provedores
- 02Padrões de prompt, saída estruturada e chamadas de ferramentas
- 03Implementações de memória de chat com JDBC ou armazenamento vetorial
- 04Fluxos de RAG (ingênuo, avançado, ramificado e condicional) com PGVector
- 05Exemplos de observabilidade para chamadas de LLM e armazenamentos vetoriais
Casos de uso
- Adicionar um chatbot com LLM local a um serviço Spring Boot usando Ollama
- Criar um sistema de perguntas e respostas sobre documentos com RAG e PGVector
- Aprender a extrair dados estruturados da saída de um LLM para objetos Java
- Explorar chamadas de ferramentas e integrações com MCP em um backend Java
Início rápido
- 1
Instale o Java 25 e o Podman ou Docker
- 2
Escolha um exemplo do README, como um caso de uso ou uma pasta de modelos, e siga as instruções específicas dele
Antes de usar
- É necessário ter Java 25 e Podman ou Docker.
- Muitos exemplos dependem de provedores de modelos hospedados, como OpenAI ou Mistral AI, que exigem chaves de API.
- Várias seções, incluindo moderação, bancos de dados vetoriais, avaliação e agentes, estão marcadas como disponíveis em breve.
Em coleções
Tópicos
Perguntas frequentes
- O que é llm-apps-java-spring-ai?
- Coleção de aplicações Java de exemplo que mostram como criar recursos de LLM e IA generativa com Spring AI e Spring Boot. Este repositório reúne projetos de exemplo para criar aplicações Java que usam Large Language Models e IA generativa por meio do Spring AI. Os projetos são organizados por tema: chat básico, embeddings, modelos de imagem e áudio, padrões de prompt, saída estruturada, multimodalidade, chamadas de ferramentas, memória de chat, guardrails, ingestão de documentos e vários fluxos de geração aumentada por recuperação (RAG).
- llm-apps-java-spring-ai é gratuito? Qual é a licença?
- llm-apps-java-spring-ai é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
- llm-apps-java-spring-ai ainda é mantido?
- Manutenção ativa. O último commit de llm-apps-java-spring-ai foi em 6 de nov. de 2026.
- Para que posso usar llm-apps-java-spring-ai?
- Adicionar um chatbot com LLM local a um serviço Spring Boot usando Ollama Criar um sistema de perguntas e respostas sobre documentos com RAG e PGVector Aprender a extrair dados estruturados da saída de um LLM para objetos Java Explorar chamadas de ferramentas e integrações com MCP em um backend Java
- Como instalar llm-apps-java-spring-ai?
- Instale o Java 25 e o Podman ou Docker Escolha um exemplo do README, como um caso de uso ou uma pasta de modelos, e siga as instruções específicas dele
- Onde consigo llm-apps-java-spring-ai?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/ThomasVitale/llm-apps-java-spring-ai
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Biblioteca Java para acessar a API REST do servidor Ollama, com suporte a chat, geração, ferramentas, embeddings e gerenciamento de modelos.
Framework PHP para criar aplicações de IA generativa com LLMs, embeddings e bancos de dados vetoriais, compatível com Symfony e Laravel.
Guia e app de chatbot web para rodar um LLM pequeno e local com API compatível com a OpenAI em hardware de consumo, usando Ollama, vLLM ou llama-cpp-python.
Ferramenta de linha de comando e biblioteca Python para executar prompts e conversar com modelos de linguagem de grande porte remotos ou instalados localmente.
Uma biblioteca Emacs Lisp que oferece ao código elisp uma interface única para vários provedores de LLM, como OpenAI, Claude, Gemini e Ollama local.