「rdma」に関するオープンソースプロジェクト

学習と推論に向けた、FP8 dispatchとNVLink/RDMAに対応するexpert-parallel MoE向けGPU通信ライブラリ。

手持ちのデバイスを1つのAIクラスターにまとめ、複数のMacや他のマシンで大規模モデルをローカル実行できます。