Repolode
stochasticai

stochasticai/xTuring

LLaMA, GPT-J, GPT-OSS 같은 오픈소스 LLM을 자체 데이터로 미세 조정하고 평가하며, 로컬이나 프라이빗 클라우드에서 실행할 수 있는 Python 라이브러리입니다.

스타
2,679
포크
209
열린 이슈
10
마지막 커밋
그저께

어떤 프로젝트인가요?

xTuring은 자체 데이터로 오픈소스 대규모 언어 모델을 미세 조정할 수 있는 Python 라이브러리입니다. 데이터 준비부터 학습과 추론까지 하나의 고수준 API로 제공하므로, 개발자가 직접 학습 루프를 작성하지 않고도 모델을 조정할 수 있습니다.

GPT-OSS, LLaMA와 LLaMA 2, Qwen3, Mistral, MiniMax M2, GPT-J, GPT-2, DistilGPT-2, Mamba 등 다양한 모델 계열을 지원합니다. 메모리와 연산 요구량을 줄이기 위해 LoRA를 사용하거나 INT8 및 INT4 저정밀 로딩을 적용할 수 있습니다. perplexity로 모델을 평가할 수 있으며, 미세 조정한 모델과 대화할 수 있도록 Gradio 기반 UI와 CLI도 제공합니다.

로컬 환경이나 프라이빗 VPC에서 실행하도록 설계되어 있어 학습 데이터를 사용자 인프라 밖으로 내보낼 필요가 없습니다.

핵심 기능

  • 01데이터 준비, 미세 조정, 생성 기능을 통합한 API
  • 02메모리와 연산 비용을 줄이는 LoRA, INT8, INT4 옵션
  • 03인과 언어 모델을 위한 perplexity 기반 평가
  • 04self-instruct 및 상용 모델 API를 이용한 데이터셋 생성
  • 05미세 조정한 모델을 위한 CLI 대화 명령과 Gradio UI 플레이그라운드

활용 사례

  • 데이터를 제3자에게 보내지 않고 기업의 비공개 문서에 맞춰 오픈소스 LLM 조정하기
  • 빠르게 실험하기 위해 노트북에서 Qwen3 0.6B 같은 소형 모델 미세 조정하기
  • 같은 데이터셋에서 LoRA와 INT8 같은 미세 조정 방식을 비교하기
  • 추가 학습에 사용할 지시 데이터셋을 로컬 모델로 생성하기

빠른 시작

  1. 1

    PyPI에서 xTuring을 설치합니다

    pip install xturing
  2. 2

    Qwen3 0.6B LoRA 모델을 사용하는 CPU 친화적인 소규모 파인튜닝 예제를 실행합니다

사용 전 알아둘 점

  • GPT-OSS와 같은 대규모 모델을 파인튜닝하려면 상당한 GPU 리소스가 필요합니다.
  • xTuring에는 transformers>=4.36.0이 필요하며, 아직 transformers 5.x로 업그레이드하면 안 됩니다.

토픽

자주 묻는 질문

xTuring은(는) 무엇인가요?
LLaMA, GPT-J, GPT-OSS 같은 오픈소스 LLM을 자체 데이터로 미세 조정하고 평가하며, 로컬이나 프라이빗 클라우드에서 실행할 수 있는 Python 라이브러리입니다. xTuring은 자체 데이터로 오픈소스 대규모 언어 모델을 미세 조정할 수 있는 Python 라이브러리입니다. 데이터 준비부터 학습과 추론까지 하나의 고수준 API로 제공하므로, 개발자가 직접 학습 루프를 작성하지 않고도 모델을 조정할 수 있습니다.
xTuring은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
xTuring은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
xTuring은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. xTuring의 마지막 커밋은 2026년 11월 5일입니다.
xTuring은(는) 어디에 사용할 수 있나요?
데이터를 제3자에게 보내지 않고 기업의 비공개 문서에 맞춰 오픈소스 LLM 조정하기 빠르게 실험하기 위해 노트북에서 Qwen3 0.6B 같은 소형 모델 미세 조정하기 같은 데이터셋에서 LoRA와 INT8 같은 미세 조정 방식을 비교하기 추가 학습에 사용할 지시 데이터셋을 로컬 모델로 생성하기
xTuring는 어떻게 설치하나요?
PyPI에서 xTuring을 설치합니다: pip install xturing Qwen3 0.6B LoRA 모델을 사용하는 CPU 친화적인 소규모 파인튜닝 예제를 실행합니다
xTuring은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/stochasticai/xTuring

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트

대형 언어 모델을 레이어별로 실행해 양자화 없이도 70B급 모델을 단일 4GB GPU에서 추론할 수 있는 Python 라이브러리입니다.

4.2만+523 이번 주4.3천Jupyter NotebookApache-2.0활발히 관리됨업데이트 14시간 전