Repolode
rllm-org

rllm-org/rllm

あらゆるエージェントハーネス、サンドボックス、学習バックエンドに対応する、強化学習でLLMエージェントを学習するオープンソースフレームワーク。

スター
5,888
フォーク
633
未解決の Issue
172
最終コミット
4 日前

これは何?

rLLMは、強化学習を使って言語エージェントをポストトレーニングするためのフレームワークです。Claude CodeやCodexのようなCLIコーディングエージェントでも、LangGraphやOpenAI SDKで構築した独自エージェントでも、既存のエージェントを実行し、収集したトレースと報酬シグナルを使ってモデルを更新できます。評価と学習の両方で同じエージェントコードを使えるため、両者の間でセットアップを書き換える必要はありません。

エージェントのロールアウトは、Docker、Daytona、Modal、またはローカル環境で実行できます。学習には、分散マルチGPU実行向けのverlバックエンド、単一マシンでの学習向けのtinkerバックエンド、またはFireworksプラットフォームを利用でき、フラグひとつでバックエンドを切り替えられます。また、Terminal-Bench 2.0、SWE-bench、AIME、GPQAなど、60を超えるベンチマークとの統合も含まれており、rllm evalコマンドで実行できます。

このフレームワークは、GRPO、REINFORCE、RLOO、SFT、オンポリシー蒸留などの学習手法に対応しています。モデルゲートウェイはロールアウト中のtoken IDとlogprobsを取得し、RLの更新に使うエピソード、軌跡、ステップにまとめます。

主な機能

  • 01Claude Code、Codex、mini-swe-agentなどのCLIハーネスや、@rllm.rolloutを使って記述した独自エージェントで動作します。
  • 02Docker、Daytona、Modal、またはローカルのサンドボックスでエージェントのロールアウトを実行します。
  • 03フラグひとつでverl、tinker、Fireworksの学習バックエンドを切り替えられます。
  • 04rllm evalを通じて、60を超えるベンチマークの評価機能を提供します。
  • 05GRPO、REINFORCE、RLOO、SFT、オンポリシー蒸留を実装しています。

ユースケース

  • 強化学習を使い、SWE-benchやTerminal-Benchなどのベンチマークでコーディングエージェントを学習する。
  • GSM8KやAIMEなどのデータセットを使い、GRPOで数学・推論モデルをポストトレーニングする。
  • 既存のLangGraphまたはOpenAI Agents SDKアプリケーションのコードを書き換えずに、RLで性能を向上させる。
  • 同じエージェントを評価パイプラインとマルチGPU学習パイプラインの両方で実行する。

クイックスタート

  1. 1

    uvでrLLMをインストール(tinkerバックエンド)

    uv pip install "rllm @ git+https://github.com/rllm-org/rllm.git"
  2. 2

    モデルプロバイダーを設定

    rllm model setup
  3. 3

    ベンチマークで評価

    rllm eval gsm8k
  4. 4

    RLでトレーニング

    rllm train gsm8k

使う前に知っておきたいこと

  • Python 3.11以降が必要です。
  • トレーニングには、モデルプロバイダーまたはバックエンド(tinker、GPUを使うverl、Fireworksなど)が必要です。

トピック

よくある質問

rllm とは?
あらゆるエージェントハーネス、サンドボックス、学習バックエンドに対応する、強化学習でLLMエージェントを学習するオープンソースフレームワーク。 rLLMは、強化学習を使って言語エージェントをポストトレーニングするためのフレームワークです。Claude CodeやCodexのようなCLIコーディングエージェントでも、LangGraphやOpenAI SDKで構築した独自エージェントでも、既存のエージェントを実行し、収集したトレースと報酬シグナルを使ってモデルを更新できます。評価と学習の両方で同じエージェントコードを使えるため、両者の間でセットアップを書き換える必要はありません。
rllm は無料で使えますか?ライセンスは?
rllm は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
rllm は今もメンテナンスされていますか?
活発にメンテナンス中。rllm の最終コミットは 2026年10月16日 です。
rllm は何に使えますか?
強化学習を使い、SWE-benchやTerminal-Benchなどのベンチマークでコーディングエージェントを学習する。 GSM8KやAIMEなどのデータセットを使い、GRPOで数学・推論モデルをポストトレーニングする。 既存のLangGraphまたはOpenAI Agents SDKアプリケーションのコードを書き換えずに、RLで性能を向上させる。 同じエージェントを評価パイプラインとマルチGPU学習パイプラインの両方で実行する。
rllm のインストール方法は?
uvでrLLMをインストール(tinkerバックエンド): uv pip install "rllm @ git+https://github.com/rllm-org/rllm.git" モデルプロバイダーを設定: rllm model setup ベンチマークで評価: rllm eval gsm8k RLでトレーニング: rllm train gsm8k
rllm はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/rllm-org/rllm

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト