API 호출부터 로컬 배포와 파인튜닝까지, Kaggle/Colab 버전과 함께 LLM을 익힐 수 있는 중국어 단계별 가이드와 데모 코드입니다.
datawhalechina/self-llm
Linux에서 오픈소스 LLM과 멀티모달 모델을 배포·사용·파인튜닝하는 중국어 튜토리얼 모음으로, Full, LoRA, P-tuning 가이드를 제공합니다.
- 스타
- 32,533
- 포크
- 3,136
- 열린 이슈
- 163
- 마지막 커밋
- 지난달
어떤 프로젝트인가요?
self-llm은 개인 Linux 머신에서 오픈소스 대규모 언어 모델을 실행하려는 초보자를 위한 중국어 튜토리얼 프로젝트입니다. 환경 설정, 로컬 배포, CLI 및 온라인 데모 사용, LangChain 연동, Qwen, InternLM, ChatGLM, Llama 3, MiniCPM, Gemma 등 다양한 모델의 파인튜닝 방법을 안내합니다.
콘텐츠는 모델별로 구성되어 있으며, 지원 모델마다 배포, 파인튜닝, 사용법을 다루는 단계별 가이드가 제공됩니다. 파인튜닝 방법으로는 분산 전체 파라미터 학습, LoRA, P-tuning을 다룹니다. AMD GPU의 ROCm, Huawei Ascend NPU, Apple M 시리즈 칩을 위한 별도 섹션도 있습니다.
Datawhale이 프로젝트를 관리하며, 기여자의 이슈와 pull request를 받고 있습니다. 또한 캐릭터 말투를 구현한 채팅 모델, InternLM2-Math 기반의 수학 특화 모델 등 예제 프로젝트도 포함합니다.
핵심 기능
- 01수십 종의 오픈소스 LLM과 멀티모달 모델을 배포하고 사용하는 단계별 가이드를 제공합니다.
- 02전체 파라미터 파인튜닝, LoRA, P-tuning 방법을 다룹니다.
- 03Linux, ROCm, Ascend NPU, Apple M 칩의 환경 설정 가이드를 제공합니다.
- 04CLI 사용, 온라인 데모 배포, LangChain 연동 방법을 안내합니다.
- 05중국어로 작성되었으며 Jupyter Notebook 기반 예제를 포함합니다.
활용 사례
- 유료 API를 이용하지 않고 Qwen이나 InternLM을 로컬에서 실행하려는 학생.
- 도메인별 데이터셋으로 오픈 모델을 LoRA 파인튜닝하는 방법을 배우려는 개발자.
- AMD 또는 Ascend 하드웨어에 오픈소스 LLM을 설정하려는 연구자.
- 로컬 모델과 LangChain을 활용해 비공개 지식 어시스턴트를 구축하려는 팀.
빠른 시작
- 1
저장소를 클론합니다
git clone https://github.com/datawhalechina/self-llm.git - 2
지원되는 모델 목록이 있는 튜토리얼 색인을 열고 일반 환경 설정 가이드를 따릅니다
사용 전 알아둘 점
- 튜토리얼은 중국어로 작성되었으며 Linux를 대상으로 합니다. AMD, Ascend NPU, Apple M 하드웨어용 가이드는 별도로 제공됩니다.
- 대부분의 가이드에서 모델을 실행하거나 파인튜닝하려면 VRAM이 넉넉한 GPU가 필요합니다.
토픽
자주 묻는 질문
- self-llm은(는) 무엇인가요?
- Linux에서 오픈소스 LLM과 멀티모달 모델을 배포·사용·파인튜닝하는 중국어 튜토리얼 모음으로, Full, LoRA, P-tuning 가이드를 제공합니다. self-llm은 개인 Linux 머신에서 오픈소스 대규모 언어 모델을 실행하려는 초보자를 위한 중국어 튜토리얼 프로젝트입니다. 환경 설정, 로컬 배포, CLI 및 온라인 데모 사용, LangChain 연동, Qwen, InternLM, ChatGLM, Llama 3, MiniCPM, Gemma 등 다양한 모델의 파인튜닝 방법을 안내합니다.
- self-llm은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- self-llm은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- self-llm은(는) 아직 유지보수되고 있나요?
- 6개월 이내 업데이트. self-llm의 마지막 커밋은 2026년 9월 12일입니다.
- self-llm은(는) 어디에 사용할 수 있나요?
- 유료 API를 이용하지 않고 Qwen이나 InternLM을 로컬에서 실행하려는 학생. 도메인별 데이터셋으로 오픈 모델을 LoRA 파인튜닝하는 방법을 배우려는 개발자. AMD 또는 Ascend 하드웨어에 오픈소스 LLM을 설정하려는 연구자. 로컬 모델과 LangChain을 활용해 비공개 지식 어시스턴트를 구축하려는 팀.
- self-llm는 어떻게 설치하나요?
- 저장소를 클론합니다: git clone https://github.com/datawhalechina/self-llm.git 지원되는 모델 목록이 있는 튜토리얼 색인을 열고 일반 환경 설정 가이드를 따릅니다
- self-llm은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/datawhalechina/self-llm
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
내보낸 채팅 기록으로 말투를 모방하는 파인튜닝 LLM을 만들고 Telegram, Discord, Slack 또는 WeChat 챗봇으로 배포합니다.
Transformer, 사전 학습, 미세 조정, RAG와 에이전트를 다루며 LLaMA2 스타일의 소형 모델을 처음부터 만들어 LLM의 원리를 배우는 중국어 공개 튜토리얼입니다.
코드 작성 없이 CLI와 웹 UI로 100개 이상의 LLM 및 VLM을 효율적으로 파인튜닝하는 통합 프레임워크입니다.
대형 언어 모델을 레이어별로 실행해 양자화 없이도 70B급 모델을 단일 4GB GPU에서 추론할 수 있는 Python 라이브러리입니다.
감성 분석, 예측, 금융 NLP 벤치마크 등 금융 작업에 맞게 파인튜닝한 오픈소스 대규모 언어 모델입니다.