LLMの推論モデルやエージェントモデルを学習する大規模な非同期強化学習システム。base_urlの切り替えにより、ブラックボックスエージェントもRLで学習できます。
rllm-org/rllm
あらゆるエージェントハーネス、サンドボックス、学習バックエンドに対応する、強化学習でLLMエージェントを学習するオープンソースフレームワーク。
- スター
- 5,888
- フォーク
- 633
- 未解決の Issue
- 172
- 最終コミット
- 4 日前
これは何?
rLLMは、強化学習を使って言語エージェントをポストトレーニングするためのフレームワークです。Claude CodeやCodexのようなCLIコーディングエージェントでも、LangGraphやOpenAI SDKで構築した独自エージェントでも、既存のエージェントを実行し、収集したトレースと報酬シグナルを使ってモデルを更新できます。評価と学習の両方で同じエージェントコードを使えるため、両者の間でセットアップを書き換える必要はありません。
エージェントのロールアウトは、Docker、Daytona、Modal、またはローカル環境で実行できます。学習には、分散マルチGPU実行向けのverlバックエンド、単一マシンでの学習向けのtinkerバックエンド、またはFireworksプラットフォームを利用でき、フラグひとつでバックエンドを切り替えられます。また、Terminal-Bench 2.0、SWE-bench、AIME、GPQAなど、60を超えるベンチマークとの統合も含まれており、rllm evalコマンドで実行できます。
このフレームワークは、GRPO、REINFORCE、RLOO、SFT、オンポリシー蒸留などの学習手法に対応しています。モデルゲートウェイはロールアウト中のtoken IDとlogprobsを取得し、RLの更新に使うエピソード、軌跡、ステップにまとめます。
主な機能
- 01Claude Code、Codex、mini-swe-agentなどのCLIハーネスや、@rllm.rolloutを使って記述した独自エージェントで動作します。
- 02Docker、Daytona、Modal、またはローカルのサンドボックスでエージェントのロールアウトを実行します。
- 03フラグひとつでverl、tinker、Fireworksの学習バックエンドを切り替えられます。
- 04rllm evalを通じて、60を超えるベンチマークの評価機能を提供します。
- 05GRPO、REINFORCE、RLOO、SFT、オンポリシー蒸留を実装しています。
ユースケース
- 強化学習を使い、SWE-benchやTerminal-Benchなどのベンチマークでコーディングエージェントを学習する。
- GSM8KやAIMEなどのデータセットを使い、GRPOで数学・推論モデルをポストトレーニングする。
- 既存のLangGraphまたはOpenAI Agents SDKアプリケーションのコードを書き換えずに、RLで性能を向上させる。
- 同じエージェントを評価パイプラインとマルチGPU学習パイプラインの両方で実行する。
クイックスタート
- 1
uvでrLLMをインストール(tinkerバックエンド)
uv pip install "rllm @ git+https://github.com/rllm-org/rllm.git" - 2
モデルプロバイダーを設定
rllm model setup - 3
ベンチマークで評価
rllm eval gsm8k - 4
RLでトレーニング
rllm train gsm8k
使う前に知っておきたいこと
- Python 3.11以降が必要です。
- トレーニングには、モデルプロバイダーまたはバックエンド(tinker、GPUを使うverl、Fireworksなど)が必要です。
トピック
よくある質問
- rllm とは?
- あらゆるエージェントハーネス、サンドボックス、学習バックエンドに対応する、強化学習でLLMエージェントを学習するオープンソースフレームワーク。 rLLMは、強化学習を使って言語エージェントをポストトレーニングするためのフレームワークです。Claude CodeやCodexのようなCLIコーディングエージェントでも、LangGraphやOpenAI SDKで構築した独自エージェントでも、既存のエージェントを実行し、収集したトレースと報酬シグナルを使ってモデルを更新できます。評価と学習の両方で同じエージェントコードを使えるため、両者の間でセットアップを書き換える必要はありません。
- rllm は無料で使えますか?ライセンスは?
- rllm は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- rllm は今もメンテナンスされていますか?
- 活発にメンテナンス中。rllm の最終コミットは 2026年10月16日 です。
- rllm は何に使えますか?
- 強化学習を使い、SWE-benchやTerminal-Benchなどのベンチマークでコーディングエージェントを学習する。 GSM8KやAIMEなどのデータセットを使い、GRPOで数学・推論モデルをポストトレーニングする。 既存のLangGraphまたはOpenAI Agents SDKアプリケーションのコードを書き換えずに、RLで性能を向上させる。 同じエージェントを評価パイプラインとマルチGPU学習パイプラインの両方で実行する。
- rllm のインストール方法は?
- uvでrLLMをインストール(tinkerバックエンド): uv pip install "rllm @ git+https://github.com/rllm-org/rllm.git" モデルプロバイダーを設定: rllm model setup ベンチマークで評価: rllm eval gsm8k RLでトレーニング: rllm train gsm8k
- rllm はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/rllm-org/rllm
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
verlは、HybridFlow論文を基盤とする、大規模言語モデルの学習後処理向けオープンソース強化学習トレーニングライブラリです。
Rayは、分散ランタイムとAIライブラリを備え、PythonやAIアプリケーションをノートPCからクラスターまでスケールさせる統合フレームワークです。
モジュール型パイプラインとエージェントワークフローで、RAG、検索、エージェント向けの本番運用可能なLLMアプリケーションを構築するオープンソースPythonフレームワーク。
Google製のコードファーストなPythonフレームワーク。Geminiに最適化されつつ、モデルを問わずAIエージェントの構築・評価・デプロイに使えます。
既存アプリに組み込めるクライアント・サーバー構成で、GRPOを使い、LLMエージェントを自身の経験から学習させるPython製RLフレームワーク。