simonw/llm

¿Qué es?

Funciones clave

• 01Ejecuta prompts y chats interactivos desde la línea de comandos.
• 02Registra prompts y respuestas en SQLite para buscarlos y revisarlos más adelante.
• 03Genera y almacena embeddings para realizar búsquedas por similitud.
• 04Extrae datos estructurados mediante esquemas JSON.
• 05Permite que los modelos invoquen herramientas y acepta imágenes, audio y video como archivos adjuntos.
• 06Admite APIs remotas y modelos locales mediante un sistema de plugins.

Casos de uso

• Consultar modelos desde scripts de shell o enviar el contenido de archivos a un prompt mediante pipes.
• Crear un historial local y consultable de conversaciones con LLM.
• Probar prompts con varios proveedores desde una misma interfaz.
• Extraer registros estructurados de documentos o imágenes.

Inicio rápido

1. 1

   Instala LLM con pip

   pip install llm
2. 2

   Guarda tu clave de API de OpenAI

   llm keys set openai
3. 3

   Ejecuta un prompt con el modelo predeterminado

   llm "Ten fun names for a pet pelican"

Antes de usarlo

• !Los modelos remotos, como OpenAI, Gemini y Anthropic, requieren claves de API de pago.
• !Para ejecutar modelos en tu propio equipo, debes instalar plugins por separado y un ejecutor de modelos local, como Ollama.

Temas

Preguntas frecuentes

¿Qué es llm?

Herramienta de línea de comandos y biblioteca de Python para ejecutar prompts y chats con modelos de lenguaje grandes, remotos o instalados localmente. LLM es una herramienta CLI y una biblioteca de Python para interactuar con modelos de lenguaje grandes como OpenAI, Anthropic Claude, Google Gemini, Mistral y DeepSeek, además de modelos que se ejecutan en tu propio equipo. Los plugins permiten añadir otros proveedores, como Ollama para modelos locales y cualquier endpoint compatible con OpenAI, como LM Studio.

¿llm es gratuito? ¿Qué licencia tiene?

llm es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.

¿llm sigue mantenido?

Mantenimiento activo. El último commit de llm fue el 18 oct 2026.

¿Para qué puedo usar llm?

Consultar modelos desde scripts de shell o enviar el contenido de archivos a un prompt mediante pipes. Crear un historial local y consultable de conversaciones con LLM. Probar prompts con varios proveedores desde una misma interfaz. Extraer registros estructurados de documentos o imágenes.

¿Cómo se instala llm?

Instala LLM con pip: pip install llm Guarda tu clave de API de OpenAI: llm keys set openai Ejecuta un prompt con el modelo predeterminado: llm "Ten fun names for a pet pelican"

¿Dónde consigo llm?

El código fuente y las instrucciones de instalación están en GitHub: https://github.com/simonw/llm