ロールベースの自律型AIエージェント(Crews)とイベント駆動型ワークフロー(Flows)をオーケストレーションする、オープンソースのPythonフレームワーク。
irthomasthomas/llm-consortium
複数の言語モデルを並列実行し、回答を反復的に洗練させ、裁定モデルで合意に達するllm CLI用Pythonプラグインです。
- スター
- 409
- フォーク
- 42
- 未解決の Issue
- 10
- 最終コミット
- 2 か月前
これは何?
LLM Consortiumは、1つのプロンプトを複数の言語モデルに同時に送る`llm`パッケージ用プラグインです。裁定モデルが各モデルの回答を評価・統合し、信頼度のしきい値に達するか、反復回数の上限に達するまでこの処理を繰り返します。候補となる回答を検証するほうが、回答を一から生成するより簡単な場合が多いという考えに基づいており、複数モデルの回答を集約することで難しい問題に役立ちます。
コンソーシアムは名前付きモデルとして保存され、標準の`llm -m`構文で実行できます。各メンバーモデルは`model:count`構文で複数のインスタンスを起動できます。全回答の統合、ランキング、chain-of-thoughtによるランキングなど、複数の判定方法を利用できます。また、回答の埋め込みをクラスタリングしてから裁定する、オプションのセマンティック戦略もあります。実行内容はSQLiteに記録され、保存した埋め込みはHTMLの可視化データとしてエクスポートできます。`-c`と`--cid`による会話の継続にも対応しています。
コマンドライン以外で使うための`create_consortium`によるPython APIも用意されています。`llm install`またはpipでインストールでき、埋め込みと可視化用のオプションextrasも利用できます。
主な機能
- 011つのプロンプトを複数のモデルに並列送信し、回答を収集します。
- 02裁定モデルを使って候補となる回答を統合、ランキング、または評価します。
- 03信頼度のしきい値か最大反復回数に達するまで処理を繰り返します。
- 04`model:count`構文でモデルごとのインスタンス数を指定できます。
- 05すべてのやり取りをSQLiteに記録し、埋め込みの可視化データをHTMLとしてエクスポートできます。
- 06`create_consortium`を通じてPython APIを提供します。
ユースケース
- 複数のモデルで相互検証し、難しい質問への回答の信頼性を高める。
- 1つのワークフローで、異なるLLMプロバイダーの出力を比較してランキングする。
- コマンドラインやPythonコードから、複数モデルによる推論戦略を試す。
クイックスタート
- 1
uv を使って llm CLI をインストールする
uv tool install llm - 2
llm-consortium プラグインをインストールする
llm install "llm-consortium" - 3
consortium コマンドが利用できることを確認する
llm consortium --help
使う前に知っておきたいこと
- セマンティック機能と埋め込み機能には、追加のパッケージ(scikit-learn、hdbscan、openai、sentence-transformers)と、OPENAI_API_KEY や CHUTES_API_TOKEN などの API キーが必要です。
- Geometric は回答の形式間の一致度を測定するもので、事実の正確性を測るものではありません。
収録されている特集
トピック
よくある質問
- llm-consortium とは?
- 複数の言語モデルを並列実行し、回答を反復的に洗練させ、裁定モデルで合意に達するllm CLI用Pythonプラグインです。 LLM Consortiumは、1つのプロンプトを複数の言語モデルに同時に送る`llm`パッケージ用プラグインです。裁定モデルが各モデルの回答を評価・統合し、信頼度のしきい値に達するか、反復回数の上限に達するまでこの処理を繰り返します。候補となる回答を検証するほうが、回答を一から生成するより簡単な場合が多いという考えに基づいており、複数モデルの回答を集約することで難しい問題に役立ちます。
- llm-consortium は無料で使えますか?ライセンスは?
- llm-consortium は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- llm-consortium は今もメンテナンスされていますか?
- 半年以内に更新あり。llm-consortium の最終コミットは 2026年9月5日 です。
- llm-consortium は何に使えますか?
- 複数のモデルで相互検証し、難しい質問への回答の信頼性を高める。 1つのワークフローで、異なるLLMプロバイダーの出力を比較してランキングする。 コマンドラインやPythonコードから、複数モデルによる推論戦略を試す。
- llm-consortium のインストール方法は?
- uv を使って llm CLI をインストールする: uv tool install llm llm-consortium プラグインをインストールする: llm install "llm-consortium" consortium コマンドが利用できることを確認する: llm consortium --help
- llm-consortium はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/irthomasthomas/llm-consortium
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
リモートおよびローカルにインストールした大規模言語モデルにプロンプトやチャットを実行できる、CLIツール兼Pythonライブラリ。
目標を聞き取り、専門エージェントを呼び出して支援するガイド役にAIアシスタントを変える、プロンプトとスキルのパッケージです。
複数のLLMに同時に問い合わせ、回答を採点して比較できる、ビジュアルなノードベースの環境。
LLMの生成時に出力を制約し、指定した型、正規表現、JSON Schema、文法に適合させるPythonライブラリ。
オブジェクトと型を通じてLLMを扱い、モデルへのプロンプト送信や構造化出力の取得を可能にするPythonライブラリ。