LazyAGI/LazyLLM

これは何？

主な機能

• 01pipeline、parallel、loopフローを使い、関数やモジュールを組み合わせてローコードでワークフローを構築。
• 02オンラインのモデルAPIとローカルデプロイモデルに共通のインターフェースを提供。
• 03ドキュメント解析、検索、再ランキングなどのRAGコンポーネントを内蔵。
• 04軽量ゲートウェイを使ったワンクリックデプロイと、Kubernetes向けのイメージパッケージ化に対応。
• 05フレームワークやモデル分割方式を自動選択するファインチューニング機能。
• 06ベアメタル、Slurm、パブリッククラウドをまたいで実行可能。

ユースケース

• 独自のドキュメントを対象にしたRAG型の質問応答ボットを構築する。
• チャット、音声、画像モデルにリクエストを振り分けるマルチエージェントチャットボットを試作する。
• プロトタイプのパイプラインをKubernetesにデプロイ可能なサービスにする。
• 同じアプリケーションコードを使って、オンラインモデルとローカルモデルを比較する。

クイックスタート

1. 1

   pipでlazyllmをインストールする

   pip3 install lazyllm
2. 2

   すべての依存関係をインストールする（任意）

   lazyllm install full
3. 3

   OpenAI APIキーを環境変数に設定し、付属のコマンドでチャットボットを起動する

   lazyllm run chatbot

使う前に知っておきたいこと

• !ローカルモデルの推論にはlightllmやvllmなどの推論フレームワークが少なくとも1つ必要で、通常はGPUも必要です。
• !WindowsおよびmacOSへのインストールには、ドキュメントにある別途のセットアップチュートリアルが必要です。

収録されている特集

トピック

よくある質問

LazyLLM とは？

RAG、チャットボット、ファインチューニング、ワンクリックデプロイに対応した、マルチエージェントLLMアプリケーション構築用のローコードPythonフレームワーク。 LazyLLMは、マルチエージェントの大規模言語モデルアプリケーションを構築するためのローコード開発ツールです。pipeline、parallel、diverter、loopなどの定義済みフローを備えており、オーケストレーションコードをあまり書かずに、関数やモジュールを組み合わせてワークフローを構築できます。

LazyLLM は無料で使えますか？ライセンスは？

LazyLLM は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

LazyLLM は今もメンテナンスされていますか？

活発にメンテナンス中。LazyLLM の最終コミットは 2026年11月6日 です。

LazyLLM は何に使えますか？

独自のドキュメントを対象にしたRAG型の質問応答ボットを構築する。 チャット、音声、画像モデルにリクエストを振り分けるマルチエージェントチャットボットを試作する。 プロトタイプのパイプラインをKubernetesにデプロイ可能なサービスにする。 同じアプリケーションコードを使って、オンラインモデルとローカルモデルを比較する。

LazyLLM のインストール方法は？

pipでlazyllmをインストールする: pip3 install lazyllm すべての依存関係をインストールする（任意）: lazyllm install full OpenAI APIキーを環境変数に設定し、付属のコマンドでチャットボットを起動する: lazyllm run chatbot

LazyLLM はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/LazyAGI/LazyLLM