학습과 추론을 위해 FP8 디스패치 및 NVLink/RDMA를 지원하는 expert-parallel MoE 디스패치·결합용 GPU 통신 라이브러리입니다.
1만1.5천CudaMIT업데이트 5일 전
#rdma
rdma 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
학습과 추론을 위해 FP8 디스패치 및 NVLink/RDMA를 지원하는 expert-parallel MoE 디스패치·결합용 GPU 통신 라이브러리입니다.
보유한 기기를 하나의 AI 클러스터로 묶어 대형 모델을 여러 Mac과 다른 컴퓨터에서 로컬로 실행합니다.