PyTorch와 Triton 기반의 오픈소스 라이브러리로, 3D 병렬 처리와 ZeRO 메모리 최적화, Hugging Face 연동을 지원해 대규모 언어 모델을 학습합니다.
33753PythonOther업데이트 6일 전
#zero-optimizer
zero-optimizer 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
PyTorch와 Triton 기반의 오픈소스 라이브러리로, 3D 병렬 처리와 ZeRO 메모리 최적화, Hugging Face 연동을 지원해 대규모 언어 모델을 학습합니다.