ms-swift은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

ms-swift은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

ms-swift은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. ms-swift의 마지막 커밋은 2026년 10월 21일입니다.

ms-swift은(는) 어디에 사용할 수 있나요?

단일 GPU에서 사용자 지정 지시 데이터셋으로 오픈 웨이트 Qwen 또는 Llama 모델을 미세 조정합니다. 비전과 언어 부분을 각각 제어하면서 이미지, 동영상 또는 오디오 데이터로 멀티모달 모델을 학습합니다. 추론 또는 에이전트 작업을 위해 vLLM 가속을 활용해 GRPO 강화 학습을 실행합니다. 검색 파이프라인용 임베딩 또는 리랭커 모델을 학습합니다.

ms-swift은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/modelscope/ms-swift

modelscope/ms-swift

SFT, DPO, GRPO를 포함해 600개 이상의 대규모 언어 모델과 400개 이상의 멀티모달 모델을 미세 조정, 학습, 추론 및 배포하는 프레임워크입니다.

GitHub에서 보기 웹사이트

스타: 15,903
포크: 1,747
열린 이슈: 601
마지막 커밋: 4시간 전

어떤 프로젝트인가요?

ms-swift는 대규모 언어 모델과 멀티모달 모델의 미세 조정, 정렬, 평가, 양자화 및 배포를 지원하는 ModelScope 커뮤니티의 프레임워크입니다. 사전 학습, 지도 미세 조정, DPO, KTO, ORPO와 같은 선호도 학습, 그리고 DAPO, GSPO, RLOO를 비롯한 GRPO 계열 강화 학습 알고리즘을 지원합니다. 임베딩, 리랭커, 시퀀스 분류 작업도 지원합니다.

프레임워크는 명령줄 인터페이스(swift sft, swift rlhf, swift infer, swift deploy), Gradio 기반 Web-UI, Python API를 제공합니다. 학습에는 LoRA, QLoRA, DoRA 또는 전체 파라미터 튜닝을 사용할 수 있으며, DeepSpeed, FSDP, Megatron 병렬화(TP, PP, CP, EP)도 지원합니다. 추론과 배포는 Transformers, vLLM, SGLang 또는 LMDeploy에서 실행할 수 있고, AWQ, GPTQ, FP8 또는 BNB 양자화를 적용해 모델을 내보낼 수 있습니다.

하드웨어는 NVIDIA CUDA GPU, AMD ROCm GPU, Ascend NPU, MetaX, Moore Threads, Apple MPS 및 CPU를 지원합니다. 데이터셋은 ModelScope나 Hugging Face에서 가져오거나 직접 제공할 수 있습니다.

핵심 기능

01지도 미세 조정, 사전 학습, DPO/KTO/ORPO 선호도 정렬 및 GRPO 계열 강화 학습을 지원합니다.
02DeepSpeed, FSDP, Megatron 병렬화를 활용해 LoRA, QLoRA, DoRA 및 전체 파라미터 학습을 지원합니다.
03OpenAI 호환 인터페이스를 통해 Transformers, vLLM, SGLang 또는 LMDeploy로 추론과 배포를 지원합니다.
04AWQ, GPTQ, FP8 및 BNB 형식으로 양자화된 모델을 내보낼 수 있습니다.
05동일한 워크플로를 위한 명령줄 도구, Gradio Web-UI, Python API를 제공합니다.

활용 사례

단일 GPU에서 사용자 지정 지시 데이터셋으로 오픈 웨이트 Qwen 또는 Llama 모델을 미세 조정합니다.
비전과 언어 부분을 각각 제어하면서 이미지, 동영상 또는 오디오 데이터로 멀티모달 모델을 학습합니다.
추론 또는 에이전트 작업을 위해 vLLM 가속을 활용해 GRPO 강화 학습을 실행합니다.
검색 파이프라인용 임베딩 또는 리랭커 모델을 학습합니다.

사용 전 알아둘 점

대규모 모델을 학습하려면 상당한 GPU 메모리가 필요합니다. README에 따르면 양자화를 적용해도 7B 모델에는 약 9GB가 필요합니다.

토픽

#llm #fine-tuning #multimodal #lora #reinforcement-learning #grpo #model-deployment #peft #deepseek #embedding

자주 묻는 질문

ms-swift은(는) 무엇인가요?: SFT, DPO, GRPO를 포함해 600개 이상의 대규모 언어 모델과 400개 이상의 멀티모달 모델을 미세 조정, 학습, 추론 및 배포하는 프레임워크입니다. ms-swift는 대규모 언어 모델과 멀티모달 모델의 미세 조정, 정렬, 평가, 양자화 및 배포를 지원하는 ModelScope 커뮤니티의 프레임워크입니다. 사전 학습, 지도 미세 조정, DPO, KTO, ORPO와 같은 선호도 학습, 그리고 DAPO, GSPO, RLOO를 비롯한 GRPO 계열 강화 학습 알고리즘을 지원합니다. 임베딩, 리랭커, 시퀀스 분류 작업도 지원합니다.
ms-swift은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?: ms-swift은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
ms-swift은(는) 아직 유지보수되고 있나요?: 활발히 유지보수 중. ms-swift의 마지막 커밋은 2026년 10월 21일입니다.
ms-swift은(는) 어디에 사용할 수 있나요?: 단일 GPU에서 사용자 지정 지시 데이터셋으로 오픈 웨이트 Qwen 또는 Llama 모델을 미세 조정합니다. 비전과 언어 부분을 각각 제어하면서 이미지, 동영상 또는 오디오 데이터로 멀티모달 모델을 학습합니다. 추론 또는 에이전트 작업을 위해 vLLM 가속을 활용해 GRPO 강화 학습을 실행합니다. 검색 파이프라인용 임베딩 또는 리랭커 모델을 학습합니다.
ms-swift은(는) 어디서 받을 수 있나요?: 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/modelscope/ms-swift

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.