Repolode
zmedelis

zmedelis/bosquet

Набор инструментов на Clojure для создания LLM-приложений: шаблоны и цепочки промптов, агенты и инструменты, память для LLM.

Звёзды
379
Форки
28
Открытые issues
4
Последний коммит
в прошлом месяце

Что это?

Bosquet — набор инструментов LLMOps для разработчиков на Clojure, создающих приложения на базе больших языковых моделей. Он помогает справляться с растущей сложностью шаблонов промптов, ограничениями контекстного окна, требующими управления памятью, и потребностью в агентах, которые могут вызывать внешние API.

Библиотека управляет сервисами LLM и инструментов, интегрирует библиотеку шаблонов Selmer для работы с промптами и использует обработку графов Pathom для построения цепочек и композиции промптов. Также в ней есть определения агентов и инструментов, управление памятью LLM и кеширование ответов на вызовы. Генерация поддерживает отдельные промпты, карты промптов и многоходовые диалоги и возвращает как всю переписку, так и сгенерированные дополнения.

Вызов инструментов поддерживается для моделей OpenAI и Ollama: функции Clojure снабжаются описаниями и типами параметров. Интерфейс командной строки позволяет задать модель по умолчанию, сохранить API-ключи и запускать генерацию с использованием EDN-файлов с промптами и данными.

Ключевые возможности

  • 01Шаблоны промптов благодаря интеграции с Selmer
  • 02Построение цепочек и композиция промптов с Pathom
  • 03Вызов инструментов для чат-моделей OpenAI и Ollama
  • 04Многоходовые диалоги с заполненными сгенерированными фрагментами
  • 05Управление памятью LLM и кеширование ответов на вызовы
  • 06Интерфейс командной строки для настройки модели и генерации

Сценарии использования

  • Создание функций на базе LLM в бэкенде на Clojure с повторно используемыми шаблонами промптов
  • Построение цепочек вызовов модели, в которых результат одного промпта передаётся следующему
  • Предоставление чат-модели доступа к функциям Clojure, например инструменту для прогноза погоды или калькулятору

Быстрый старт

  1. 1

    Скопируйте примеры файлов конфигурации (config.edn.sample и secrets.edn) и при необходимости измените их

  2. 2

    Установите модель по умолчанию

    clojure -M -m bosquet.cli llms set --service openai --temperature 0 --model gpt-4o
  3. 3

    Сохраните API-ключ для используемого сервиса

    clojure -M -m bosquet.cli keys set openai
  4. 4

    Запустите генерацию

    clojure -M -m bosquet.cli "2+{{x}}="

Что важно знать

  • Требуется набор инструментов Clojure и API-ключ для LLM-сервиса, например OpenAI.
  • Полная документация помечена как находящаяся в разработке.

В подборках

Темы

Частые вопросы

Что такое bosquet?
Набор инструментов на Clojure для создания LLM-приложений: шаблоны и цепочки промптов, агенты и инструменты, память для LLM. Bosquet — набор инструментов LLMOps для разработчиков на Clojure, создающих приложения на базе больших языковых моделей. Он помогает справляться с растущей сложностью шаблонов промптов, ограничениями контекстного окна, требующими управления памятью, и потребностью в агентах, которые могут вызывать внешние API.
bosquet можно использовать бесплатно? Какая у него лицензия?
bosquet распространяется с открытым исходным кодом под лицензией EPL-1.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
bosquet всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в bosquet — 30 сент. 2026 г..
Для чего можно использовать bosquet?
Создание функций на базе LLM в бэкенде на Clojure с повторно используемыми шаблонами промптов Построение цепочек вызовов модели, в которых результат одного промпта передаётся следующему Предоставление чат-модели доступа к функциям Clojure, например инструменту для прогноза погоды или калькулятору
Как установить bosquet?
Скопируйте примеры файлов конфигурации (config.edn.sample и secrets.edn) и при необходимости измените их Установите модель по умолчанию: clojure -M -m bosquet.cli llms set --service openai --temperature 0 --model gpt-4o Сохраните API-ключ для используемого сервиса: clojure -M -m bosquet.cli keys set openai Запустите генерацию: clojure -M -m bosquet.cli "2+{{x}}="
Где скачать bosquet?
Исходный код и инструкции по установке — на GitHub: https://github.com/zmedelis/bosquet

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты