Framework de Python para crear benchmarks entre entornos que evalúan agentes multimodales con LLM en entornos en memoria, Docker, VM y máquinas físicas.
sierra-research/tau2-bench
Benchmark de simulación para evaluar agentes de IA de atención al cliente que usan herramientas y conversan con usuarios simulados por texto y voz.
- Estrellas
- 2,411
- Forks
- 629
- Issues abiertos
- 306
- Último commit
- anteayer
¿Qué es?
τ-Bench (tau2-bench) es un framework de simulación para probar qué tan bien gestionan los agentes LLM las tareas de atención al cliente. Cada dominio define una política que el agente debe seguir, un conjunto de herramientas que puede usar y tareas para evaluar su rendimiento. El proyecto incluye dominios de aerolíneas, comercio minorista, telecomunicaciones, recuperación de conocimientos bancarios y captura de datos (intake), además de un dominio simulado para pruebas.
El framework ofrece dos modos: chat de texto por turnos y conversaciones de voz full-duplex mediante API de audio en tiempo real de proveedores como OpenAI, Gemini y xAI. Los paquetes de idiomas localizan tareas y datos al inglés, español, portugués, hindi, chino y coreano. Las ejecuciones se inician con la herramienta de línea de comandos `tau2`, y los resultados se pueden consultar con `tau2 view` y evaluar con jueces posteriores a la ejecución.
Funciones clave
- 01Simula dominios de atención al cliente con políticas, herramientas y tareas definidas.
- 02Admite evaluaciones de texto por turnos y evaluaciones de voz full-duplex.
- 03Incluye dominios de aerolíneas, comercio minorista, telecomunicaciones, conocimientos bancarios y captura de datos.
- 04Ofrece paquetes de idiomas para seis idiomas, tanto para texto como para voz.
- 05Se ejecuta mediante una CLI `tau2` que permite planificar en modo de prueba y consultar resultados.
Casos de uso
- Comparar modelos LLM o diseños de agentes en tareas realistas de atención al cliente.
- Probar si un agente sigue las políticas de negocio y usa las herramientas correctamente.
- Evaluar agentes de voz para llamadas de atención al cliente en varios idiomas.
- Crear agentes y dominios personalizados para aprendizaje por refuerzo o experimentos de investigación.
Inicio rápido
- 1
Clona el repositorio
git clone https://github.com/sierra-research/tau2-bench - 2
Entra en la carpeta del proyecto e instala las dependencias con uv
cd tau2-bench && uv sync - 3
Crea el archivo .env y añade tus claves de API
cp .env.example .env - 4
Ejecuta una evaluación pequeña en el ámbito de las aerolíneas
tau2 run --domain airline --agent-llm gpt-4.1 --user-llm gpt-4.1 --num-trials 1 --num-tasks 5
Antes de usarlo
- Para ejecutar evaluaciones se necesitan claves de API de proveedores de LLM de pago.
- Se requiere Python 3.12 o posterior, pero anterior a 3.14.
- Las funciones de voz necesitan dependencias adicionales del sistema e identificadores de voz que tendrás que crear.
Temas
Preguntas frecuentes
- ¿Qué es tau2-bench?
- Benchmark de simulación para evaluar agentes de IA de atención al cliente que usan herramientas y conversan con usuarios simulados por texto y voz. τ-Bench (tau2-bench) es un framework de simulación para probar qué tan bien gestionan los agentes LLM las tareas de atención al cliente. Cada dominio define una política que el agente debe seguir, un conjunto de herramientas que puede usar y tareas para evaluar su rendimiento. El proyecto incluye dominios de aerolíneas, comercio minorista, telecomunicaciones, recuperación de conocimientos bancarios y captura de datos (intake), además de un dominio simulado para pruebas.
- ¿tau2-bench es gratuito? ¿Qué licencia tiene?
- tau2-bench es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿tau2-bench sigue mantenido?
- Mantenimiento activo. El último commit de tau2-bench fue el 5 nov 2026.
- ¿Para qué puedo usar tau2-bench?
- Comparar modelos LLM o diseños de agentes en tareas realistas de atención al cliente. Probar si un agente sigue las políticas de negocio y usa las herramientas correctamente. Evaluar agentes de voz para llamadas de atención al cliente en varios idiomas. Crear agentes y dominios personalizados para aprendizaje por refuerzo o experimentos de investigación.
- ¿Cómo se instala tau2-bench?
- Clona el repositorio: git clone https://github.com/sierra-research/tau2-bench Entra en la carpeta del proyecto e instala las dependencias con uv: cd tau2-bench && uv sync Crea el archivo .env y añade tus claves de API: cp .env.example .env Ejecuta una evaluación pequeña en el ámbito de las aerolíneas: tau2 run --domain airline --agent-llm gpt-4.1 --user-llm gpt-4.1 --num-trials 1 --num-tasks 5
- ¿Dónde consigo tau2-bench?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/sierra-research/tau2-bench
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Un framework de Python para la mejora autónoma de agentes guiada por evaluadores, que registra el linaje de cada generación de agentes candidatos.
Gorilla es un proyecto de código abierto para entrenar y evaluar LLMs capaces de realizar llamadas a funciones precisas y usar APIs a partir de solicitudes en lenguaje natural.
Plataforma open source integral para evaluar modelos de lenguaje grandes en más de 100 datasets y con numerosos proveedores de modelos y backends de inferencia.
Benchmark y herramienta de evaluación para comprobar si los modelos de lenguaje pueden resolver issues reales de GitHub generando parches verificados en Docker.
Un toolkit de código abierto para evaluar modelos grandes de visión y lenguaje en numerosos benchmarks multimodales con un solo comando.