제한된 GPU 메모리에서 대규모 MoE 모델을 CPU-GPU 이기종 환경으로 추론하고 LoRA/전체 파인튜닝하기 위한 연구 프레임워크입니다.
2만1.6천PythonApache-2.0업데이트 그저께
#cpu-offload
“cpu-offload” 관련 오픈소스 프로젝트
cpu-offload 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
#cpu-offload
cpu-offload 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
제한된 GPU 메모리에서 대규모 MoE 모델을 CPU-GPU 이기종 환경으로 추론하고 LoRA/전체 파인튜닝하기 위한 연구 프레임워크입니다.