限られたGPUメモリで大規模MoEモデルを推論し、LoRAまたは全パラメータをファインチューニングするためのCPU-GPU異種構成LLM研究フレームワーク。
2万1602PythonApache-2.0更新 一昨日
#cpu-offload
cpu-offload に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
限られたGPUメモリで大規模MoEモデルを推論し、LoRAまたは全パラメータをファインチューニングするためのCPU-GPU異種構成LLM研究フレームワーク。