Repolode
zmedelis

zmedelis/bosquet

Um toolkit Clojure para criar aplicações com LLMs, com templates e encadeamento de prompts, agentes e ferramentas, além de gerenciamento de memória para LLMs.

Estrelas
379
Forks
28
Issues abertas
4
Último commit
mês passado

O que é?

Bosquet é um toolkit de LLMOps para desenvolvedores Clojure que criam aplicações com modelos de linguagem de grande porte. Ele lida com a crescente complexidade dos templates de prompt, com os limites da janela de contexto, que exigem gerenciamento de memória, e com a necessidade de agentes capazes de chamar APIs externas.

A biblioteca gerencia serviços de LLMs e ferramentas, integra a biblioteca de templates Selmer para criar templates de prompt e usa o processamento de grafos do Pathom para encadear e compor prompts. Também oferece definições de agentes e ferramentas, gerenciamento de memória para LLMs e cache de respostas de chamadas. A geração funciona com prompts únicos, mapas de prompts e conversas de chat com várias interações, retornando tanto a conversa completa quanto as conclusões geradas.

O uso de ferramentas é compatível com modelos da OpenAI e do Ollama, nos quais funções Clojure são anotadas com descrições e tipos de parâmetros. Uma interface de linha de comando permite definir um modelo padrão, armazenar chaves de API e executar gerações a partir de arquivos EDN de prompt e dados.

Recursos principais

  • 01Criação de templates de prompt com integração ao Selmer
  • 02Encadeamento e composição de prompts com Pathom
  • 03Uso de ferramentas em modelos de chat da OpenAI e do Ollama
  • 04Conversas de chat com várias interações e preenchimento das partes geradas
  • 05Gerenciamento de memória para LLMs e cache de respostas de chamadas
  • 06Interface de linha de comando para configurar modelos e executar gerações

Casos de uso

  • Criar recursos com LLMs em um backend Clojure que precisem de templates de prompt reutilizáveis
  • Encadear várias chamadas de modelo, usando a saída de um prompt como entrada do seguinte
  • Dar a um modelo de chat acesso a funções Clojure, como uma ferramenta de previsão do tempo ou uma calculadora

Início rápido

  1. 1

    Copie os arquivos de configuração de exemplo (config.edn.sample e secrets.edn) e ajuste-os conforme necessário

  2. 2

    Defina o modelo padrão

    clojure -M -m bosquet.cli llms set --service openai --temperature 0 --model gpt-4o
  3. 3

    Armazene a chave de API do serviço que você vai usar

    clojure -M -m bosquet.cli keys set openai
  4. 4

    Execute uma geração

    clojure -M -m bosquet.cli "2+{{x}}="

Antes de usar

  • É necessário ter um toolchain Clojure e uma chave de API de um serviço de LLM, como o OpenAI.
  • A documentação completa está marcada como em andamento.

Em coleções

Tópicos

Perguntas frequentes

O que é bosquet?
Um toolkit Clojure para criar aplicações com LLMs, com templates e encadeamento de prompts, agentes e ferramentas, além de gerenciamento de memória para LLMs. Bosquet é um toolkit de LLMOps para desenvolvedores Clojure que criam aplicações com modelos de linguagem de grande porte. Ele lida com a crescente complexidade dos templates de prompt, com os limites da janela de contexto, que exigem gerenciamento de memória, e com a necessidade de agentes capazes de chamar APIs externas.
bosquet é gratuito? Qual é a licença?
bosquet é open source sob a licença EPL-1.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
bosquet ainda é mantido?
Atualizado nos últimos 6 meses. O último commit de bosquet foi em 30 de set. de 2026.
Para que posso usar bosquet?
Criar recursos com LLMs em um backend Clojure que precisem de templates de prompt reutilizáveis Encadear várias chamadas de modelo, usando a saída de um prompt como entrada do seguinte Dar a um modelo de chat acesso a funções Clojure, como uma ferramenta de previsão do tempo ou uma calculadora
Como instalar bosquet?
Copie os arquivos de configuração de exemplo (config.edn.sample e secrets.edn) e ajuste-os conforme necessário Defina o modelo padrão: clojure -M -m bosquet.cli llms set --service openai --temperature 0 --model gpt-4o Armazene a chave de API do serviço que você vai usar: clojure -M -m bosquet.cli keys set openai Execute uma geração: clojure -M -m bosquet.cli "2+{{x}}="
Onde consigo bosquet?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/zmedelis/bosquet

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados