Repolode
Enviar
stochasticai

stochasticai/xTuring

Una biblioteca de Python para ajustar, evaluar y ejecutar LLM de código abierto como LLaMA, GPT-J y GPT-OSS con tus propios datos, localmente o en una nube privada.

Ver en GitHubSitio web
Estrellas
2,677
Forks
209
Issues abiertos
10
Último commit
anteayer

¿Qué es?

xTuring es una biblioteca de Python para ajustar modelos de lenguaje grandes de código abierto con tus propios datos. Abarca la preparación de datos, el entrenamiento y la inferencia mediante una única API de alto nivel, para que los desarrolladores puedan adaptar modelos sin escribir sus propios bucles de entrenamiento.

Admite diversas familias de modelos, como GPT-OSS, LLaMA y LLaMA 2, Qwen3, Mistral, MiniMax M2, GPT-J, GPT-2, DistilGPT-2 y Mamba. El ajuste puede realizarse con LoRA o mediante la carga de modelos en baja precisión INT8 e INT4 para reducir los requisitos de memoria y cómputo. Los modelos se pueden evaluar con perplexity, y se incluyen una interfaz basada en Gradio y una CLI para chatear con modelos ajustados.

La biblioteca está diseñada para ejecutarse localmente o dentro de una VPC privada, por lo que no es necesario que los datos de entrenamiento salgan de la infraestructura del usuario.

Funciones clave

  • 01API unificada para la preparación de datos, el ajuste y la generación
  • 02Variantes LoRA, INT8 e INT4 para reducir el consumo de memoria y el costo computacional
  • 03Evaluación basada en perplexity para modelos de lenguaje causal
  • 04Generación de conjuntos de datos a partir de self-instruct y APIs de modelos comerciales
  • 05Comando de chat de CLI y entorno de pruebas con interfaz de Gradio para modelos ajustados

Casos de uso

  • Adaptar un LLM de código abierto a los documentos privados de una empresa sin enviar datos a terceros
  • Ajustar un modelo pequeño, como Qwen3 0.6B, en una laptop para hacer experimentos rápidos
  • Comparar métodos de ajuste, como LoRA e INT8, con el mismo conjunto de datos
  • Generar conjuntos de datos de instrucciones a partir de un modelo local para seguir entrenándolo

Inicio rápido

  1. 1

    Instala xTuring desde PyPI

    pip install xturing
  2. 2

    Ejecuta el ejemplo de ajuste fino pequeño y compatible con CPU con el modelo LoRA Qwen3 0.6B

Antes de usarlo

  • El ajuste fino de modelos más grandes, como GPT-OSS, requiere importantes recursos de GPU.
  • xTuring requiere transformers>=4.36.0 y todavía no se debe actualizar a transformers 5.x.

Temas

#llm#fine-tuning#lora#quantization#gen-ai#language-model#peft#deep-learning#adapter#finetuning

Preguntas frecuentes

¿Qué es xTuring?
Una biblioteca de Python para ajustar, evaluar y ejecutar LLM de código abierto como LLaMA, GPT-J y GPT-OSS con tus propios datos, localmente o en una nube privada. xTuring es una biblioteca de Python para ajustar modelos de lenguaje grandes de código abierto con tus propios datos. Abarca la preparación de datos, el entrenamiento y la inferencia mediante una única API de alto nivel, para que los desarrolladores puedan adaptar modelos sin escribir sus propios bucles de entrenamiento.
¿xTuring es gratuito? ¿Qué licencia tiene?
xTuring es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿xTuring sigue mantenido?
Mantenimiento activo. El último commit de xTuring fue el 5 nov 2026.
¿Para qué puedo usar xTuring?
Adaptar un LLM de código abierto a los documentos privados de una empresa sin enviar datos a terceros Ajustar un modelo pequeño, como Qwen3 0.6B, en una laptop para hacer experimentos rápidos Comparar métodos de ajuste, como LoRA e INT8, con el mismo conjunto de datos Generar conjuntos de datos de instrucciones a partir de un modelo local para seguir entrenándolo
¿Cómo se instala xTuring?
Instala xTuring desde PyPI: pip install xturing Ejecuta el ejemplo de ajuste fino pequeño y compatible con CPU con el modelo LoRA Qwen3 0.6B
¿Dónde consigo xTuring?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/stochasticai/xTuring

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados