一个 C++ 工具，通过以太网把 LLM 推理拆分到多台家用设备上，以加快生成速度。
3115258C++MIT更新于 11天前
#distributed-llm
“distributed-llm” 相关开源项目
与 distributed-llm 相关的精选 GitHub 开源仓库，附 AI 中文概要与关键数据。
#distributed-llm
与 distributed-llm 相关的精选 GitHub 开源仓库，附 AI 中文概要与关键数据。
一个 C++ 工具，通过以太网把 LLM 推理拆分到多台家用设备上，以加快生成速度。