TensorFoldとvLLMを使い、4台のNVIDIA DGX SparkでDeepSeek-V4.1-Flash（552B MoE）を配信するためのスクリプト、パッチ、計測結果を公開。
11920PythonMIT更新 5 時間前
#tensor-parallel
「tensor-parallel」に関するオープンソースプロジェクト
tensor-parallel に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
#tensor-parallel
tensor-parallel に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
TensorFoldとvLLMを使い、4台のNVIDIA DGX SparkでDeepSeek-V4.1-Flash（552B MoE）を配信するためのスクリプト、パッチ、計測結果を公開。