Repolode
google-research

google-research/harness2

고정된 LLM 에이전트가 접해 보지 않은 작업을 수행하도록 프롬프트, 도구, 오케스트레이션을 개선하는 재귀적 하네스 최적화 Python 프레임워크

스타
9,158
포크
802
열린 이슈
72
마지막 커밋
6일 전

어떤 프로젝트인가요?

Harness²는 언어 모델이 에이전트로 동작하도록 주변 시스템을 개선하는 프레임워크입니다. 하네스라고 부르는 이 주변 시스템에는 프롬프트, 도구, 메모리, 스킬, 오케스트레이션이 포함됩니다. 이 프레임워크는 모델 가중치를 고정하고 하네스를 최적화해, 하네스 설계 중 에이전트가 접하지 않은 작업을 수행할 수 있도록 합니다.

두 가지 수준에서 작동합니다. 작업 수준 재귀는 Propose–Probe–Compose 단계로 현재 작업에 맞게 하네스를 개선합니다. 수정안을 제안하고 같은 작업에서 실행한 다음, 정답 레이블의 피드백 없이 실행 간 행동 차이를 바탕으로 새 하네스를 구성합니다. 하네싱 수준 재귀는 개선용 하네스를 지속적으로 유지하며, 채택된 하네스와 근거로 뒷받침되는 교훈을 저장해 이후 개선에 활용합니다.

이 프로젝트는 OpenCode 및 Codex 실행기와 JobBench, LAB, WorkBuddy-Bench의 세 가지 벤치마크를 지원합니다. 병렬 및 순차 재귀 모드, 모델 인증 정보 없이 사용할 수 있는 로컬 데모, 설정·실행·평가·보고용 명령도 제공합니다.

핵심 기능

  • 01작업 수준 재귀는 정답 레이블의 피드백 없이 Propose–Probe–Compose 방식으로 하네스를 개선합니다.
  • 02하네싱 수준 재귀는 여러 작업에서 채택된 하네스와 교훈을 보존하는 개선용 하네스를 유지합니다.
  • 03병렬 및 순차 재귀 모드로 개선의 범위와 깊이를 조절할 수 있습니다.
  • 04OpenCode 및 Codex 실행기를 지원합니다.
  • 05JobBench, LAB, WorkBuddy-Bench 벤치마크 통합을 제공합니다.
  • 06시스템 프롬프트, 가드레일, 메모리, 도구 안내, 서브에이전트, 스킬, 스크립트, 플러그인 등 8개 하네스 구성 요소를 수정합니다.

활용 사례

  • JobBench, LAB 또는 WorkBuddy-Bench에서 하네스 최적화 실험을 재현하는 연구자.
  • 전문 작업 벤치마크에서 고정된 모델을 대상으로 에이전트 하네스 설계를 비교하는 팀.
  • 모델을 재학습하지 않고 프롬프트, 도구, 오케스트레이션이 에이전트 성능에 미치는 영향을 연구하는 개발자.

빠른 시작

  1. 1

    Python 3.12 가상 환경을 만듭니다

    uv venv --python 3.12 .venv
  2. 2

    가상 환경을 활성화합니다

    source .venv/bin/activate
  3. 3

    render extras를 포함해 패키지를 editable 모드로 설치합니다

    uv pip install -e '.[render]'
  4. 4

    로컬 데모를 실행합니다(모델 인증 정보는 필요하지 않음)

    harness2-demo --output runs/demo --k 2

사용 전 알아둘 점

  • 모델 기반 벤치마크에는 Vertex AI 설정, Google Cloud CLI 인증이 필요하며, 경우에 따라 Docker, Pandoc, Poppler도 필요합니다.
  • 모델 기반 실행에는 API 비용이 발생합니다.
  • Executor의 네트워크 액세스가 제한되지 않으므로, 벤치마크 답변에 네트워크 제한이 필요하다면 미리 설정해야 할 수 있습니다.

토픽

자주 묻는 질문

harness2은(는) 무엇인가요?
고정된 LLM 에이전트가 접해 보지 않은 작업을 수행하도록 프롬프트, 도구, 오케스트레이션을 개선하는 재귀적 하네스 최적화 Python 프레임워크 Harness²는 언어 모델이 에이전트로 동작하도록 주변 시스템을 개선하는 프레임워크입니다. 하네스라고 부르는 이 주변 시스템에는 프롬프트, 도구, 메모리, 스킬, 오케스트레이션이 포함됩니다. 이 프레임워크는 모델 가중치를 고정하고 하네스를 최적화해, 하네스 설계 중 에이전트가 접하지 않은 작업을 수행할 수 있도록 합니다.
harness2은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
harness2은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
harness2은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. harness2의 마지막 커밋은 2026년 10월 14일입니다.
harness2은(는) 어디에 사용할 수 있나요?
JobBench, LAB 또는 WorkBuddy-Bench에서 하네스 최적화 실험을 재현하는 연구자. 전문 작업 벤치마크에서 고정된 모델을 대상으로 에이전트 하네스 설계를 비교하는 팀. 모델을 재학습하지 않고 프롬프트, 도구, 오케스트레이션이 에이전트 성능에 미치는 영향을 연구하는 개발자.
harness2는 어떻게 설치하나요?
Python 3.12 가상 환경을 만듭니다: uv venv --python 3.12 .venv 가상 환경을 활성화합니다: source .venv/bin/activate render extras를 포함해 패키지를 editable 모드로 설치합니다: uv pip install -e '.[render]' 로컬 데모를 실행합니다(모델 인증 정보는 필요하지 않음): harness2-demo --output runs/demo --k 2
harness2은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/google-research/harness2

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트