Repolode
Enviar
georgian-io

georgian-io/LLM-Finetuning-Toolkit

CLI basado en configuración para ejecutar y comparar experimentos de fine-tuning de LLM con distintos prompts, modelos open source y ajustes de LoRA, con pruebas integradas de resultados.

Ver en GitHub
Estrellas
870
Forks
107
Issues abiertos
16
Último commit
hace 15 días

¿Qué es?

LLM Finetuning Toolkit es una herramienta CLI que ejecuta una serie de experimentos de fine-tuning de LLM a partir de un único archivo YAML. La configuración controla la plantilla del prompt, el modelo base, los ajustes de optimización (como el rango de LoRA, el dropout y la cuantización de 4 bits mediante bitsandbytes) y las comprobaciones de calidad posteriores al entrenamiento. Se puede especificar cualquier modelo open source disponible en Hugging Face, y los datasets pueden proceder de Hugging Face o de archivos JSON y CSV locales.

Su principal uso son los estudios de ablación. Se pueden incluir en la configuración listas de plantillas de prompt, checkpoints de modelos o hiperparámetros de LoRA, y el toolkit ejecuta todas las combinaciones. Se calcula un hash para cada configuración, de modo que una ejecución interrumpida se reanuda desde el dataset almacenado en caché, en lugar de empezar de nuevo. Los resultados se guardan en directorios separados para el dataset, los pesos del modelo, los resultados de las predicciones y los resultados de las pruebas de QA.

El proyecto incluye pruebas integradas, como una prueba de longitud y otra de coincidencia de palabras, que comprueban si el texto generado se comporta como se espera. Se puede instalar con pipx o pip como el paquete llm-toolkit.

Funciones clave

  • 01Define los prompts, modelos, ajustes de LoRA y pruebas de QA en un único archivo YAML.
  • 02Ejecuta estudios de ablación con listas de plantillas de prompt, checkpoints de modelos y parámetros de LoRA.
  • 03Carga datasets desde Hugging Face o desde archivos JSON y CSV.
  • 04Admite cuantización de 4 bits y Flash Attention 2 en los modelos compatibles.
  • 05Almacena en caché los resultados según el hash de la configuración para poder reanudar las ejecuciones interrumpidas.
  • 06Incluye pruebas de QA integradas, como comprobaciones de longitud y de coincidencia de palabras.

Casos de uso

  • Comparar varios modelos base open source con el mismo dataset de fine-tuning.
  • Probar qué plantilla de prompt o configuración de LoRA ofrece mejores resultados para una tarea.
  • Comprobar que los resultados de un modelo de resumen sean más cortos que sus entradas.
  • Ejecutar experimentos de fine-tuning reproducibles a partir de un archivo de configuración versionado.

Inicio rápido

  1. 1

    Instala el toolkit con pipx (recomendado)

    pipx install llm-toolkit
  2. 2

    Genera un archivo de configuración inicial

    llmtune generate config
  3. 3

    Ejecuta el experimento de fine-tuning con la configuración

    llmtune run ./config.yml

Antes de usarlo

  • Flash Attention 2 requiere un paso de instalación manual por separado y una GPU compatible.
  • El fine-tuning de modelos como Llama-2 7B consume muchos recursos y requiere acceso al modelo en Hugging Face.

En colecciones

Frameworks de pruebas y herramientas de automatizaciónHerramientas y bibliotecas de procesamiento del lenguaje natural

Temas

#fine-tuning#llm#lora#qlora#ablation-study#nlp#hugging-face#testing#classification#falcon

Preguntas frecuentes

¿Qué es LLM-Finetuning-Toolkit?
CLI basado en configuración para ejecutar y comparar experimentos de fine-tuning de LLM con distintos prompts, modelos open source y ajustes de LoRA, con pruebas integradas de resultados. LLM Finetuning Toolkit es una herramienta CLI que ejecuta una serie de experimentos de fine-tuning de LLM a partir de un único archivo YAML. La configuración controla la plantilla del prompt, el modelo base, los ajustes de optimización (como el rango de LoRA, el dropout y la cuantización de 4 bits mediante bitsandbytes) y las comprobaciones de calidad posteriores al entrenamiento. Se puede especificar cualquier modelo open source disponible en Hugging Face, y los datasets pueden proceder de Hugging Face o de archivos JSON y CSV locales.
¿LLM-Finetuning-Toolkit es gratuito? ¿Qué licencia tiene?
LLM-Finetuning-Toolkit es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿LLM-Finetuning-Toolkit sigue mantenido?
Mantenimiento activo. El último commit de LLM-Finetuning-Toolkit fue el 22 oct 2026.
¿Para qué puedo usar LLM-Finetuning-Toolkit?
Comparar varios modelos base open source con el mismo dataset de fine-tuning. Probar qué plantilla de prompt o configuración de LoRA ofrece mejores resultados para una tarea. Comprobar que los resultados de un modelo de resumen sean más cortos que sus entradas. Ejecutar experimentos de fine-tuning reproducibles a partir de un archivo de configuración versionado.
¿Cómo se instala LLM-Finetuning-Toolkit?
Instala el toolkit con pipx (recomendado): pipx install llm-toolkit Genera un archivo de configuración inicial: llmtune generate config Ejecuta el experimento de fine-tuning con la configuración: llmtune run ./config.yml
¿Dónde consigo LLM-Finetuning-Toolkit?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/georgian-io/LLM-Finetuning-Toolkit

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados