stas00/ml-engineering

这是什么？

核心功能

• 01涵盖大规模训练中的加速器、CPU 内存、存储与节点间网络
• 02包含 SLURM 速查表与编排相关指导
• 03提供网络吞吐基准测试和节点间连通性检测工具
• 04给出排查 PyTorch 程序卡死或报错的调试方法
• 05包含云服务商选择和 GPU 升级决策的指南

适用场景

• 搭建和运维用于 LLM 训练的多节点 GPU 集群
• 排查分布式 PyTorch 训练任务卡死或崩溃的问题
• 评估升级到新一代 GPU 是否划算
• 为新交付的 GPU 集群制定验收测试流程

快速上手

1. 1

   克隆代码仓库

   git clone https://github.com/stas00/ml-engineering
2. 2

   打开目录，阅读所需指南（本书为 Markdown 文件，无需安装）

使用前须知

• !这是一套笔记和指南，而非可安装的软件，因此没有可运行的程序。
• !内容主要基于作者在特定大规模训练项目中的个人经验撰写。

标签

常见问题

ml-engineering 是什么？

一本开源的大语言模型与多模态模型训练、微调及推理工程实践手册，附带大量脚本和命令。 这是一套关于大语言模型和多模态模型训练、微调及推理的开放方法论、工具与分步指南，内含大量可直接复制使用的脚本和命令，面向 LLM/VLM 训练工程师与运维人员。

ml-engineering 可以免费使用吗？用的什么许可证？

ml-engineering 以 CC-BY-SA-4.0 许可证开源。用于商业产品前，请先确认许可证条款。

ml-engineering 还在维护吗？

活跃维护中。ml-engineering 最近一次提交是在 2026年10月16日。

ml-engineering 适合用来做什么？

搭建和运维用于 LLM 训练的多节点 GPU 集群 排查分布式 PyTorch 训练任务卡死或崩溃的问题 评估升级到新一代 GPU 是否划算 为新交付的 GPU 集群制定验收测试流程

ml-engineering 怎么安装和运行？

克隆代码仓库: git clone https://github.com/stas00/ml-engineering 打开目录，阅读所需指南（本书为 Markdown 文件，无需安装）

在哪里获取 ml-engineering？

源代码和安装说明在 GitHub 上：https://github.com/stas00/ml-engineering