stochasticai/xTuring

Что это?

Ключевые возможности

• 01Единый API для подготовки данных, дообучения и генерации
• 02Варианты LoRA, INT8 и INT4 для снижения затрат памяти и вычислительных ресурсов
• 03Оценка причинно-следственных языковых моделей на основе перплексии
• 04Генерация датасетов с помощью self-instruct и API коммерческих моделей
• 05Команда чата в CLI и интерфейс-песочница на базе Gradio для дообученных моделей

Сценарии использования

• Адаптация открытой LLM к внутренним документам компании без передачи данных третьим сторонам
• Дообучение небольшой модели, например Qwen3 0.6B, на ноутбуке для быстрых экспериментов
• Сравнение подходов к дообучению, например LoRA и INT8, на одном датасете
• Создание датасетов инструкций с помощью локальной модели для дальнейшего обучения

Быстрый старт

1. 1

   Установите xTuring из PyPI

   pip install xturing
2. 2

   Запустите небольшой пример файн-тюнинга, подходящий для CPU, с моделью LoRA Qwen3 0.6B

Что важно знать

• !Для файн-тюнинга более крупных моделей, таких как GPT-OSS, требуются значительные ресурсы GPU.
• !Для xTuring требуется transformers>=4.36.0; пока не следует обновлять transformers до версии 5.x.

Темы

Частые вопросы

Что такое xTuring?

Библиотека Python для дообучения, оценки и запуска открытых LLM, таких как LLaMA, GPT-J и GPT-OSS, на собственных данных — локально или в частном облаке. xTuring — библиотека Python для дообучения открытых больших языковых моделей на собственных данных. Она объединяет подготовку данных, обучение и инференс в одном высокоуровневом API, поэтому разработчики могут адаптировать модели, не создавая собственные циклы обучения.

xTuring можно использовать бесплатно? Какая у него лицензия?

xTuring распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.

xTuring всё ещё поддерживается?

Активно поддерживается. Последний коммит в xTuring — 5 нояб. 2026 г..

Для чего можно использовать xTuring?

Адаптация открытой LLM к внутренним документам компании без передачи данных третьим сторонам Дообучение небольшой модели, например Qwen3 0.6B, на ноутбуке для быстрых экспериментов Сравнение подходов к дообучению, например LoRA и INT8, на одном датасете Создание датасетов инструкций с помощью локальной модели для дальнейшего обучения

Как установить xTuring?

Установите xTuring из PyPI: pip install xturing Запустите небольшой пример файн-тюнинга, подходящий для CPU, с моделью LoRA Qwen3 0.6B

Где скачать xTuring?

Исходный код и инструкции по установке — на GitHub: https://github.com/stochasticai/xTuring