base_url만 바꿔 블랙박스 에이전트도 RL로 학습할 수 있는, LLM 추론 및 에이전트 모델 학습을 위한 대규모 비동기 강화 학습 시스템입니다.
rllm-org/rllm
모든 에이전트 하네스, 샌드박스, 학습 백엔드를 지원하는 강화학습 기반 LLM 에이전트 학습 오픈소스 프레임워크입니다.
- 스타
- 5,888
- 포크
- 633
- 열린 이슈
- 172
- 마지막 커밋
- 4일 전
어떤 프로젝트인가요?
rLLM은 강화학습으로 언어 에이전트를 후학습하는 프레임워크입니다. Claude Code나 Codex 같은 CLI 코딩 에이전트부터 LangGraph 또는 OpenAI SDK로 만든 커스텀 에이전트까지 기존 에이전트를 실행하고, 수집한 트레이스와 보상 신호를 사용해 모델을 업데이트할 수 있습니다. 평가와 학습에 동일한 에이전트 코드를 사용하므로 두 작업 사이에 설정을 다시 작성할 필요가 없습니다.
에이전트 롤아웃은 Docker, Daytona, Modal 또는 로컬에서 실행할 수 있습니다. 학습에는 분산 멀티 GPU 실행을 위한 verl 백엔드, 단일 머신 학습을 위한 tinker 백엔드 또는 Fireworks 플랫폼을 사용할 수 있으며, 플래그 하나로 백엔드를 전환할 수 있습니다. 또한 Terminal-Bench 2.0, SWE-bench, AIME, GPQA 등을 포함한 60개 이상의 벤치마크 통합 기능을 제공하며, rllm eval 명령으로 실행할 수 있습니다.
이 프레임워크는 GRPO, REINFORCE, RLOO, SFT, on-policy distillation 등의 학습 방식을 지원합니다. 모델 게이트웨이는 롤아웃 중 token ID와 logprobs를 수집하고, RL 업데이트에 사용할 수 있도록 이를 에피소드, 궤적, 단계 단위로 묶습니다.
핵심 기능
- 01Claude Code, Codex, mini-swe-agent 같은 CLI 하네스나 @rllm.rollout으로 작성한 커스텀 에이전트를 지원합니다.
- 02Docker, Daytona, Modal 또는 로컬 샌드박스에서 에이전트 롤아웃을 실행합니다.
- 03플래그 하나로 verl, tinker, Fireworks 학습 백엔드를 전환합니다.
- 04rllm eval을 통해 60개 이상의 벤치마크 평가 기능을 제공합니다.
- 05GRPO, REINFORCE, RLOO, SFT, on-policy distillation을 구현합니다.
활용 사례
- 강화학습을 사용해 SWE-bench나 Terminal-Bench 같은 벤치마크에서 코딩 에이전트를 학습합니다.
- GSM8K나 AIME 같은 데이터셋으로 GRPO를 적용해 수학 또는 추론 모델을 후학습합니다.
- 코드를 다시 작성하지 않고 RL을 통해 기존 LangGraph 또는 OpenAI Agents SDK 애플리케이션을 개선합니다.
- 평가와 멀티 GPU 학습 파이프라인에서 동일한 에이전트를 실행합니다.
빠른 시작
- 1
uv로 rLLM 설치 (tinker 백엔드)
uv pip install "rllm @ git+https://github.com/rllm-org/rllm.git" - 2
모델 제공업체 구성
rllm model setup - 3
벤치마크에서 평가
rllm eval gsm8k - 4
RL로 학습
rllm train gsm8k
사용 전 알아둘 점
- Python 3.11 이상이 필요합니다.
- 학습에는 모델 제공업체 또는 tinker, GPU를 사용하는 verl, Fireworks와 같은 백엔드가 필요합니다.
토픽
자주 묻는 질문
- rllm은(는) 무엇인가요?
- 모든 에이전트 하네스, 샌드박스, 학습 백엔드를 지원하는 강화학습 기반 LLM 에이전트 학습 오픈소스 프레임워크입니다. rLLM은 강화학습으로 언어 에이전트를 후학습하는 프레임워크입니다. Claude Code나 Codex 같은 CLI 코딩 에이전트부터 LangGraph 또는 OpenAI SDK로 만든 커스텀 에이전트까지 기존 에이전트를 실행하고, 수집한 트레이스와 보상 신호를 사용해 모델을 업데이트할 수 있습니다. 평가와 학습에 동일한 에이전트 코드를 사용하므로 두 작업 사이에 설정을 다시 작성할 필요가 없습니다.
- rllm은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- rllm은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- rllm은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. rllm의 마지막 커밋은 2026년 10월 16일입니다.
- rllm은(는) 어디에 사용할 수 있나요?
- 강화학습을 사용해 SWE-bench나 Terminal-Bench 같은 벤치마크에서 코딩 에이전트를 학습합니다. GSM8K나 AIME 같은 데이터셋으로 GRPO를 적용해 수학 또는 추론 모델을 후학습합니다. 코드를 다시 작성하지 않고 RL을 통해 기존 LangGraph 또는 OpenAI Agents SDK 애플리케이션을 개선합니다. 평가와 멀티 GPU 학습 파이프라인에서 동일한 에이전트를 실행합니다.
- rllm는 어떻게 설치하나요?
- uv로 rLLM 설치 (tinker 백엔드): uv pip install "rllm @ git+https://github.com/rllm-org/rllm.git" 모델 제공업체 구성: rllm model setup 벤치마크에서 평가: rllm eval gsm8k RL로 학습: rllm train gsm8k
- rllm은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/rllm-org/rllm
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
verl은 HybridFlow 논문을 기반으로 대규모 언어 모델의 후속 학습을 위한 오픈소스 강화 학습 라이브러리입니다.
Ray는 분산 런타임과 AI 라이브러리를 제공해 노트북부터 클러스터까지 Python 및 AI 애플리케이션을 확장하는 통합 프레임워크입니다.
프로젝트를 읽고 파일을 수정하며 터미널, 데스크톱, 브라우저 또는 에디터에서 테스트를 실행하는 오픈소스 코딩 에이전트입니다.
모듈형 파이프라인과 에이전트 워크플로를 활용해 RAG, 검색, 에이전트용 프로덕션급 LLM 애플리케이션을 구축하는 오픈 소스 Python 프레임워크입니다.
기존 앱에 연결할 수 있는 클라이언트-서버 구조를 갖춘 Python RL 프레임워크로, GRPO를 사용해 LLM 에이전트가 직접 쌓은 경험으로 다단계 작업을 학습합니다.