Repolode
google-research

google-research/harness2

未知のタスクに向け、固定されたLLMエージェントのプロンプト、ツール、オーケストレーションを再帰的に最適化するPythonフレームワーク。

スター
9,158
フォーク
802
未解決の Issue
72
最終コミット
6 日前

これは何?

Harness²は、言語モデルをエージェントとして動作させるためのシステムを改善するフレームワークです。プロンプト、ツール、メモリ、スキル、オーケストレーションなどから成るこの周辺システムを、ハーネスと呼びます。Harness²ではモデルの重みは固定したまま、ハーネスを最適化します。ハーネスの設計時にはエージェントが遭遇していなかったタスクへの対応を目指します。

最適化は2つのレベルで行われます。タスクレベルの再帰では、Propose–Probe–Composeの手順で現在のタスク向けにハーネスを改善します。編集案を出し、同じタスクで実行し、実行間の振る舞いの違いをもとに新しいハーネスを組み立てます。この過程では正解データによるフィードバックを使いません。ハーネス最適化レベルの再帰では、採用済みのハーネスと、根拠によって裏付けられた知見を蓄積する永続的な改善用ハーネスを維持し、以降の改善に活用します。

OpenCodeおよびCodexの実行環境と、JobBench、LAB、WorkBuddy-Benchの3つのベンチマークに対応しています。並列・逐次の再帰モードを備え、モデルの認証情報が不要なローカルデモや、セットアップ、実行、評価、レポート作成用のコマンドも用意されています。

主な機能

  • 01正解データによるフィードバックなしで、Propose–Probe–Composeを通じてタスクレベルの再帰的なハーネス改善を行います。
  • 02タスクをまたいで採用済みのハーネスと知見を保持する、改善用ハーネスを維持します。
  • 03並列・逐次の再帰モードにより、改善の範囲と深さを制御できます。
  • 04OpenCodeおよびCodexの実行環境に対応しています。
  • 05JobBench、LAB、WorkBuddy-Benchのベンチマーク連携が含まれています。
  • 06ハーネスを構成する8つの要素(system prompt、guardrails、memory、tool guidance、subagents、skills、scripts、plugins)を編集します。

ユースケース

  • JobBench、LAB、WorkBuddy-Benchでハーネス最適化の実験を再現する研究者。
  • プロフェッショナルなタスクのベンチマークを使い、固定モデル向けのエージェントハーネス設計を比較するチーム。
  • モデルを再学習せずに、プロンプト、ツール、オーケストレーションがエージェントの性能に与える影響を調べる開発者。

クイックスタート

  1. 1

    Python 3.12 の仮想環境を作成する

    uv venv --python 3.12 .venv
  2. 2

    仮想環境を有効化する

    source .venv/bin/activate
  3. 3

    render extras を指定してパッケージを editable モードでインストールする

    uv pip install -e '.[render]'
  4. 4

    ローカルデモを実行する(モデルの認証情報は不要)

    harness2-demo --output runs/demo --k 2

使う前に知っておきたいこと

  • モデルを使用するベンチマークには、Vertex AI のセットアップ、Google Cloud CLI の認証、および場合によっては Docker、Pandoc、Poppler が必要です。
  • モデルを使用する実行では API の利用料金が発生します。
  • Executor のネットワークアクセスに制限がないため、ベンチマークの回答を制限するには、事前にネットワーク制限を設定する必要がある場合があります。

トピック

よくある質問

harness2 とは?
未知のタスクに向け、固定されたLLMエージェントのプロンプト、ツール、オーケストレーションを再帰的に最適化するPythonフレームワーク。 Harness²は、言語モデルをエージェントとして動作させるためのシステムを改善するフレームワークです。プロンプト、ツール、メモリ、スキル、オーケストレーションなどから成るこの周辺システムを、ハーネスと呼びます。Harness²ではモデルの重みは固定したまま、ハーネスを最適化します。ハーネスの設計時にはエージェントが遭遇していなかったタスクへの対応を目指します。
harness2 は無料で使えますか?ライセンスは?
harness2 は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
harness2 は今もメンテナンスされていますか?
活発にメンテナンス中。harness2 の最終コミットは 2026年10月14日 です。
harness2 は何に使えますか?
JobBench、LAB、WorkBuddy-Benchでハーネス最適化の実験を再現する研究者。 プロフェッショナルなタスクのベンチマークを使い、固定モデル向けのエージェントハーネス設計を比較するチーム。 モデルを再学習せずに、プロンプト、ツール、オーケストレーションがエージェントの性能に与える影響を調べる開発者。
harness2 のインストール方法は?
Python 3.12 の仮想環境を作成する: uv venv --python 3.12 .venv 仮想環境を有効化する: source .venv/bin/activate render extras を指定してパッケージを editable モードでインストールする: uv pip install -e '.[render]' ローカルデモを実行する(モデルの認証情報は不要): harness2-demo --output runs/demo --k 2
harness2 はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/google-research/harness2

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト