simonw/llm

Что это?

Ключевые возможности

• 01Запускает промпты и интерактивные чаты из командной строки.
• 02Сохраняет промпты и ответы в SQLite, чтобы их можно было искать и просматривать позже.
• 03Создаёт и хранит эмбеддинги для поиска по сходству.
• 04Извлекает структурированные данные с помощью JSON-схем.
• 05Позволяет моделям вызывать инструменты и принимает изображения, аудио и видео в качестве вложений.
• 06Поддерживает удалённые API и локальные модели через систему плагинов.

Сценарии использования

• Отправка запросов моделям из shell-скриптов или передача содержимого файлов в промпт через конвейер.
• Создание локального архива диалогов с LLM с возможностью поиска.
• Тестирование промптов у нескольких провайдеров через единый интерфейс.
• Извлечение структурированных записей из документов или изображений.

Быстрый старт

1. 1

   Установите LLM с помощью pip

   pip install llm
2. 2

   Сохраните свой API-ключ OpenAI

   llm keys set openai
3. 3

   Запустите промпт с моделью по умолчанию

   llm "Ten fun names for a pet pelican"

Что важно знать

• !Для работы с удалёнными моделями, такими как OpenAI, Gemini и Anthropic, нужны платные API-ключи.
• !Чтобы запускать модели на своём компьютере, нужно отдельно установить плагины и локальный исполнитель моделей, например Ollama.

Темы

Частые вопросы

Что такое llm?

CLI-инструмент и библиотека Python для работы с промптами и чатами на удалённых и локально установленных больших языковых моделях. LLM — это CLI-инструмент и библиотека Python для работы с большими языковыми моделями, такими как OpenAI, Anthropic Claude, Google Gemini, Mistral и DeepSeek, а также с моделями, запущенными на вашем компьютере. Плагины добавляют поддержку других провайдеров, в том числе Ollama для локальных моделей и любых совместимых с OpenAI эндпоинтов, например LM Studio.

llm можно использовать бесплатно? Какая у него лицензия?

llm распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.

llm всё ещё поддерживается?

Активно поддерживается. Последний коммит в llm — 18 окт. 2026 г..

Для чего можно использовать llm?

Отправка запросов моделям из shell-скриптов или передача содержимого файлов в промпт через конвейер. Создание локального архива диалогов с LLM с возможностью поиска. Тестирование промптов у нескольких провайдеров через единый интерфейс. Извлечение структурированных записей из документов или изображений.

Как установить llm?

Установите LLM с помощью pip: pip install llm Сохраните свой API-ключ OpenAI: llm keys set openai Запустите промпт с моделью по умолчанию: llm "Ten fun names for a pet pelican"

Где скачать llm?

Исходный код и инструкции по установке — на GitHub: https://github.com/simonw/llm