google-research/text-to-text-transfer-transformer

¿Qué es?

Funciones clave

• 01Define tareas de NLP como datos de texto a texto mediante Task, TfdsTask y TextLineTask.
• 02Combina varias tareas en Mixtures para el entrenamiento multitarea, con tasas configurables.
• 03Ofrece herramientas de línea de comandos para el preentrenamiento, el ajuste fino, la evaluación y la decodificación.
• 04Se ejecuta en las TPUs de Google Cloud con Mesh TensorFlow e incluye instrucciones para GPU.
• 05Publica checkpoints preentrenados desde T5-Small (60M) hasta T5-11B (11B parámetros).

Casos de uso

• Reproducir los experimentos del artículo de T5 sobre aprendizaje por transferencia.
• Ajustar los checkpoints publicados de T5 con un conjunto de datos de texto a texto personalizado.
• Crear pipelines personalizados de entrenamiento multitarea de NLP con conjuntos de datos combinados.
• Estudiar objetivos de preentrenamiento y el preprocesamiento de conjuntos de datos para modelos de secuencia a secuencia.

Inicio rápido

1. 1

   Instala el paquete T5

   pip install t5[gcp]
2. 2

   Prueba T5 en el tutorial gratuito de Colab (TPU, sin configuración local)

3. 3

   Consulta las tareas y mezclas disponibles

   python -c "import t5; print(t5.data.MixtureRegistry.names())"

Antes de usarlo

• !El README indica que T5 en TensorFlow con MeshTF ya no se desarrolla activamente y recomienda usar T5X en su lugar.
• !El entrenamiento y el ajuste fino están diseñados en torno a las TPU de Google Cloud y al almacenamiento de GCP.
• !Preparar el conjunto de datos C4 requiere descargar unos 7 TB y aproximadamente 335 días de CPU de cálculo.

En colecciones

Temas

Preguntas frecuentes

¿Qué es text-to-text-transfer-transformer?

Base de código de Google Research para reproducir los experimentos de «Text-to-Text Transfer Transformer», con preprocesamiento de datos, entrenamiento, ajuste fino y evaluación en TPUs. T5 es la base de código que acompaña al artículo «Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer». Plantea todas las tareas de NLP como texto de entrada y texto de salida, y la biblioteca se organiza principalmente en torno a la carga, el preprocesamiento, la combinación y la evaluación de conjuntos de datos. Los usuarios definen Tasks a partir de TensorFlow Datasets, archivos de texto o fuentes personalizadas, les asignan preprocesadores, tokenización con SentencePiece y métricas, y las combinan en Mixtures para el entrenamiento multitarea.

¿text-to-text-transfer-transformer es gratuito? ¿Qué licencia tiene?

text-to-text-transfer-transformer es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.

¿text-to-text-transfer-transformer sigue mantenido?

Mantenimiento activo. El último commit de text-to-text-transfer-transformer fue el 12 oct 2026.

¿Para qué puedo usar text-to-text-transfer-transformer?

Reproducir los experimentos del artículo de T5 sobre aprendizaje por transferencia. Ajustar los checkpoints publicados de T5 con un conjunto de datos de texto a texto personalizado. Crear pipelines personalizados de entrenamiento multitarea de NLP con conjuntos de datos combinados. Estudiar objetivos de preentrenamiento y el preprocesamiento de conjuntos de datos para modelos de secuencia a secuencia.

¿Cómo se instala text-to-text-transfer-transformer?

Instala el paquete T5: pip install t5[gcp] Prueba T5 en el tutorial gratuito de Colab (TPU, sin configuración local) Consulta las tareas y mezclas disponibles: python -c "import t5; print(t5.data.MixtureRegistry.names())"

¿Dónde consigo text-to-text-transfer-transformer?

El código fuente y las instrucciones de instalación están en GitHub: https://github.com/google-research/text-to-text-transfer-transformer