simonw/llm

O que é?

Recursos principais

• 01Executa prompts e conversas interativas pela linha de comando.
• 02Registra prompts e respostas no SQLite para facilitar pesquisas e consultas posteriores.
• 03Gera e armazena embeddings para buscas por similaridade.
• 04Extrai dados estruturados usando esquemas JSON.
• 05Permite que modelos chamem ferramentas e aceita imagens, áudio e vídeo como anexos.
• 06Oferece suporte a APIs remotas e modelos locais por meio de um sistema de plugins.

Casos de uso

• Consultar modelos em scripts de shell ou enviar o conteúdo de arquivos para um prompt usando pipes.
• Criar um histórico local pesquisável de conversas com LLMs.
• Testar prompts em vários provedores a partir de uma única interface.
• Extrair registros estruturados de documentos ou imagens.

Início rápido

1. 1

   Instale LLM com pip

   pip install llm
2. 2

   Salve sua chave de API da OpenAI

   llm keys set openai
3. 3

   Execute um prompt com o modelo padrão

   llm "Ten fun names for a pet pelican"

Antes de usar

• !Modelos remotos, como OpenAI, Gemini e Anthropic, exigem chaves de API pagas.
• !Para executar modelos na sua própria máquina, é necessário instalar plugins separados e um executor de modelos local, como o Ollama.

Tópicos

Perguntas frequentes

O que é llm?

Ferramenta de linha de comando e biblioteca Python para executar prompts e conversar com modelos de linguagem de grande porte remotos ou instalados localmente. LLM é uma ferramenta CLI e uma biblioteca Python para interagir com modelos de linguagem de grande porte, como OpenAI, Anthropic Claude, Google Gemini, Mistral e DeepSeek, além de modelos executados na sua própria máquina. Plugins ampliam o suporte a outros provedores, incluindo o Ollama para modelos locais e qualquer endpoint compatível com OpenAI, como o LM Studio.

llm é gratuito? Qual é a licença?

llm é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.

llm ainda é mantido?

Manutenção ativa. O último commit de llm foi em 18 de out. de 2026.

Para que posso usar llm?

Consultar modelos em scripts de shell ou enviar o conteúdo de arquivos para um prompt usando pipes. Criar um histórico local pesquisável de conversas com LLMs. Testar prompts em vários provedores a partir de uma única interface. Extrair registros estruturados de documentos ou imagens.

Como instalar llm?

Instale LLM com pip: pip install llm Salve sua chave de API da OpenAI: llm keys set openai Execute um prompt com o modelo padrão: llm "Ten fun names for a pet pelican"

Onde consigo llm?

O código-fonte e as instruções de instalação estão no GitHub: https://github.com/simonw/llm