huggingface/peft

어떤 프로젝트인가요?

핵심 기능

• 01LoRA와 어댑터, soft prompt, IA3 같은 기타 파라미터 효율적 학습 방법을 구현합니다.
• 02get_peft_model과 구성 객체를 사용해 호환되는 모델을 감쌉니다.
• 03어댑터를 작은 체크포인트로 저장해 기본 모델에 불러올 수 있습니다.
• 04Transformers, Diffusers, Accelerate와 연동됩니다.
• 05학습 중 메모리 사용량을 줄이기 위해 양자화된 기본 모델을 지원합니다.

활용 사례

• 일반 소비자용 GPU 한 대에서 수십억 개 파라미터를 가진 LLM을 파인튜닝합니다.
• 하나의 공유 기본 모델에 여러 작업별 어댑터를 유지합니다.
• 스타일이나 대상 학습을 위해 LoRA로 Stable Diffusion을 맞춤 조정합니다.
• Accelerate를 사용해 분산 환경에서 대규모 모델을 학습합니다.

빠른 시작

1. 1

   pip에서 PEFT를 설치합니다

   pip install peft
2. 2

   get_peft_model을 사용해 베이스 모델을 LoRA 설정으로 래핑한 다음 학습하고 저장합니다

사용 전 알아둘 점

• !README 예제를 실행하려면 PyTorch 호환 GPU 또는 가속기와 대용량 사전 학습 모델 다운로드가 필요합니다.

토픽

자주 묻는 질문

peft은(는) 무엇인가요?

Hugging Face의 Parameter-Efficient Fine-Tuning(PEFT) 라이브러리로, 소수의 추가 파라미터만 학습해 대규모 사전 학습 모델을 맞춤 조정합니다. 대규모 사전 학습 모델을 파인튜닝하려면 컴퓨팅 자원과 저장 공간이 많이 듭니다. PEFT는 LoRA 같은 방법을 제공하며, 기본 모델은 고정한 채 추가된 소수의 파라미터만 학습합니다. 이렇게 만들어진 어댑터는 보통 몇 MB에 불과하며, 라이브러리는 여러 경우에 전체 파인튜닝과 비슷한 성능을 낸다고 보고합니다.

peft은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

peft은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

peft은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. peft의 마지막 커밋은 2026년 10월 21일입니다.

peft은(는) 어디에 사용할 수 있나요?

일반 소비자용 GPU 한 대에서 수십억 개 파라미터를 가진 LLM을 파인튜닝합니다. 하나의 공유 기본 모델에 여러 작업별 어댑터를 유지합니다. 스타일이나 대상 학습을 위해 LoRA로 Stable Diffusion을 맞춤 조정합니다. Accelerate를 사용해 분산 환경에서 대규모 모델을 학습합니다.

peft는 어떻게 설치하나요?

pip에서 PEFT를 설치합니다: pip install peft get_peft_model을 사용해 베이스 모델을 LoRA 설정으로 래핑한 다음 학습하고 저장합니다

peft은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/huggingface/peft