Repolode
Предложить
ThomasVitale

ThomasVitale/llm-apps-java-spring-ai

Подборка примеров Java-приложений, демонстрирующих, как создавать функции на базе LLM и генеративного ИИ с помощью Spring AI и Spring Boot.

Открыть на GitHub
Звёзды
787
Форки
192
Открытые issues
7
Последний коммит
14 часов назад

Что это?

В репозитории собраны примеры Java-проектов для создания приложений, использующих большие языковые модели и генеративный ИИ через Spring AI. Примеры сгруппированы по темам: базовый чат, эмбеддинги, модели для работы с изображениями и аудио, шаблоны промптов, структурированный вывод, мультимодальность, вызов инструментов, память чата, защитные ограничения, загрузка документов и несколько сценариев генерации с дополнением извлечённой информацией (RAG).

Большинство примеров запускаются локально с Ollama, остальные используют облачные сервисы, такие как OpenAI и Mistral AI. В примерах для хранения векторов применяется PGVector, а в некоторых примерах с эмбеддингами — трансформеры ONNX. Примеры с наблюдаемостью охватывают мониторинг моделей и векторных хранилищ; один из них подключает Brave Search API через Model Context Protocol.

Для проекта нужны Java 25 и Podman или Docker для вспомогательных сервисов. Каждый пример находится в отдельной папке, поэтому разработчики могут выбрать нужный им подход и повторно использовать его в своих Spring-приложениях.

Ключевые возможности

  • 01Примеры работы с чат-моделями, эмбеддингами, моделями изображений и аудио от разных провайдеров
  • 02Шаблоны промптов, структурированного вывода и вызова инструментов
  • 03Реализации памяти чата на основе JDBC или векторного хранилища
  • 04Сценарии RAG (наивный, расширенный, с ветвлением и условными переходами) с PGVector
  • 05Примеры наблюдаемости для вызовов LLM и векторных хранилищ

Сценарии использования

  • Добавление чат-бота на локальной LLM в сервис Spring Boot с помощью Ollama
  • Создание системы ответов на вопросы по документам с RAG и PGVector
  • Изучение способов извлечения структурированных данных из вывода LLM в Java-объекты
  • Изучение вызова инструментов и интеграций MCP в Java-бэкенде

Быстрый старт

  1. 1

    Установите Java 25 и Podman или Docker

  2. 2

    Выберите пример из README, например сценарий использования или папку с моделями, и следуйте инструкциям для этого примера

Что важно знать

  • Требуются Java 25 и Podman или Docker.
  • Многие примеры зависят от размещённых провайдеров моделей, таких как OpenAI или Mistral AI, для которых нужны ключи API.
  • Несколько разделов, включая модерацию, векторные хранилища, оценку и агентов, помечены как готовящиеся к выходу.

В подборках

Запуск LLM локально

Темы

#spring-ai#java#llm#rag#ollama#generative-ai#embeddings#large-language-models#openai

Частые вопросы

Что такое llm-apps-java-spring-ai?
Подборка примеров Java-приложений, демонстрирующих, как создавать функции на базе LLM и генеративного ИИ с помощью Spring AI и Spring Boot. В репозитории собраны примеры Java-проектов для создания приложений, использующих большие языковые модели и генеративный ИИ через Spring AI. Примеры сгруппированы по темам: базовый чат, эмбеддинги, модели для работы с изображениями и аудио, шаблоны промптов, структурированный вывод, мультимодальность, вызов инструментов, память чата, защитные ограничения, загрузка документов и несколько сценариев генерации с дополнением извлечённой информацией (RAG).
llm-apps-java-spring-ai можно использовать бесплатно? Какая у него лицензия?
llm-apps-java-spring-ai распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
llm-apps-java-spring-ai всё ещё поддерживается?
Активно поддерживается. Последний коммит в llm-apps-java-spring-ai — 5 нояб. 2026 г..
Для чего можно использовать llm-apps-java-spring-ai?
Добавление чат-бота на локальной LLM в сервис Spring Boot с помощью Ollama Создание системы ответов на вопросы по документам с RAG и PGVector Изучение способов извлечения структурированных данных из вывода LLM в Java-объекты Изучение вызова инструментов и интеграций MCP в Java-бэкенде
Как установить llm-apps-java-spring-ai?
Установите Java 25 и Podman или Docker Выберите пример из README, например сценарий использования или папку с моделями, и следуйте инструкциям для этого примера
Где скачать llm-apps-java-spring-ai?
Исходный код и инструкции по установке — на GitHub: https://github.com/ThomasVitale/llm-apps-java-spring-ai

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

jonfairbanks / local-rag

Офлайн-приложение RAG индексирует локальные файлы, репозитории GitHub и сайты и отвечает на вопросы с помощью локальных моделей Ollama, не передавая данные за пределы вашей сети.

ИИ и машинное обучение#rag#llm#ollama
76595PythonGPL-3.0Активно поддерживаетсяОбновлён 4 дня назад