一个用 Python 构建跨环境基准测试的框架,用于评估多模态大语言模型智能体。
432+2 本周64Python无许可证更新于 5天前
用于评测客服类 AI 智能体的仿真基准,支持文本与语音场景下的工具调用与用户交互。
τ-Bench(tau2-bench)是一个仿真框架,用于测试 LLM 智能体处理客服类任务的能力。每个领域都定义了智能体必须遵守的策略、可调用的工具以及用于打分的任务集,内置航空、零售、电信、银行知识检索和实体信息采集(intake)等领域,并附带一个用于测试的 mock 领域。
框架支持两种模式:基于回合的文本对话,以及通过 OpenAI、Gemini、xAI 等厂商实时音频 API 进行的全双工语音对话。语言包可将任务和数据本地化为英语、西班牙语、葡萄牙语、印地语、中文和韩语。通过 `tau2` 命令行工具启动评测,用 `tau2 view` 查看结果,并可在运行后使用评判器打分。
克隆代码仓库
git clone https://github.com/sierra-research/tau2-bench进入项目目录并使用 uv 安装依赖
cd tau2-bench && uv sync创建 .env 文件并填入你的 API 密钥
cp .env.example .env在航空领域运行一次小规模评测
tau2 run --domain airline --agent-llm gpt-4.1 --user-llm gpt-4.1 --num-trials 1 --num-tasks 5概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
一个用 Python 构建跨环境基准测试的框架,用于评估多模态大语言模型智能体。
一个用于智能体自我改进的 Python 框架,在固定评估器下迭代优化智能体,并记录每代候选的可追溯谱系。
Gorilla 是一个开源项目,用于训练和评测能够根据自然语言准确调用函数和 API 的大语言模型。
一站式大模型评测平台,覆盖 100 多个数据集,支持多种模型与推理后端。
用于评测语言模型能否通过生成补丁解决真实 GitHub Issue 的基准与 Docker 评测工具。
一个开源工具包,可用一条命令在多个多模态基准上评测大型视觉语言模型。