Repolode
simonw

simonw/llm

リモートおよびローカルにインストールした大規模言語モデルにプロンプトやチャットを実行できる、CLIツール兼Pythonライブラリ。

代替できる製品:ChatGPT

スター
12,646
フォーク
1,053
未解決の Issue
753
最終コミット
一昨日

これは何?

LLMは、OpenAI、Anthropic Claude、Google Gemini、Mistral、DeepSeekなどの大規模言語モデルや、自分のマシン上で動作するモデルを利用するためのCLIツール兼Pythonライブラリです。プラグインで対応プロバイダーを拡張でき、ローカルモデル向けのOllamaや、LM StudioなどOpenAI互換のエンドポイントを利用できます。

プロンプトの実行に加えて、プロンプトと応答をSQLiteに保存したり、埋め込みを生成・保存したり、テキストや画像から構造化JSONを抽出したり、モデルからツールを呼び出したりできます。再利用可能なテンプレートやフラグメントを使ってプロンプトを組み立てられ、添付ファイルとして画像、音声、動画をマルチモーダルモデルに渡すこともできます。

LLMをターミナルやスクリプトから使いたい開発者やパワーユーザーを対象としており、同じ機能を利用できるPython APIも提供します。

主な機能

  • 01コマンドラインからプロンプトを実行し、対話形式でチャットできます。
  • 02プロンプトと応答をSQLiteに記録し、後から検索・確認できます。
  • 03類似検索用の埋め込みを生成して保存できます。
  • 04JSON Schemaを使って構造化データを抽出できます。
  • 05モデルからツールを呼び出せるほか、画像、音声、動画を添付ファイルとして受け取れます。
  • 06プラグインシステムを通じて、リモートAPIとローカルモデルに対応します。

ユースケース

  • シェルスクリプトからモデルに問い合わせたり、ファイルの内容をプロンプトに渡したりする。
  • LLMとの会話履歴をローカルに保存し、検索できるようにする。
  • 1つのインターフェースから複数のプロバイダーでプロンプトをテストする。
  • 文書や画像から構造化レコードを抽出する。

クイックスタート

  1. 1

    pipでLLMをインストールする

    pip install llm
  2. 2

    OpenAI APIキーを保存する

    llm keys set openai
  3. 3

    デフォルトモデルでプロンプトを実行する

    llm "Ten fun names for a pet pelican"

使う前に知っておきたいこと

  • OpenAI、Gemini、Anthropicなどのリモートモデルを使うには、有料のAPIキーが必要です。
  • 自分のマシンでモデルを実行するには、別途プラグインとOllamaなどのローカルモデルランナーをインストールする必要があります。

トピック

よくある質問

llm とは?
リモートおよびローカルにインストールした大規模言語モデルにプロンプトやチャットを実行できる、CLIツール兼Pythonライブラリ。 LLMは、OpenAI、Anthropic Claude、Google Gemini、Mistral、DeepSeekなどの大規模言語モデルや、自分のマシン上で動作するモデルを利用するためのCLIツール兼Pythonライブラリです。プラグインで対応プロバイダーを拡張でき、ローカルモデル向けのOllamaや、LM StudioなどOpenAI互換のエンドポイントを利用できます。
llm は無料で使えますか?ライセンスは?
llm は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
llm は今もメンテナンスされていますか?
活発にメンテナンス中。llm の最終コミットは 2026年10月18日 です。
llm は何に使えますか?
シェルスクリプトからモデルに問い合わせたり、ファイルの内容をプロンプトに渡したりする。 LLMとの会話履歴をローカルに保存し、検索できるようにする。 1つのインターフェースから複数のプロバイダーでプロンプトをテストする。 文書や画像から構造化レコードを抽出する。
llm のインストール方法は?
pipでLLMをインストールする: pip install llm OpenAI APIキーを保存する: llm keys set openai デフォルトモデルでプロンプトを実行する: llm "Ten fun names for a pet pelican"
llm はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/simonw/llm

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト