用 PyTorch 从零实现的 Transformer 大模型训练教程与代码库,涵盖预训练、SFT、奖励模型、DPO/PPO/GRPO 与文本生成。
1.2万1816PythonMIT更新于 18天前
百余张原创架构图,系统图解大模型与强化学习核心算法。
本仓库是一套以架构图为主的大模型与强化学习图解资料,包含 100 多张原创图,涵盖 LLM、VLM 的结构,解码策略,预训练与后训练流程,以及 LoRA、Prefix-Tuning、SFT 等微调方法。
对齐与推理部分包括 DPO 与 RLHF 的训练架构对比、PPO 与 GRPO、奖励模型、基于思维链的知识蒸馏、MCTS 和 Best-of-N 采样等内容。强化学习基础部分也有相应图示,如马尔可夫决策过程、蒙特卡洛与 TD 方法、DQN、策略梯度和 Actor-Critic。
图片同时提供高清 PNG 与可缩放的 SVG 矢量格式,并附有中英文版本。每个主题相对独立,读者可以直接查阅所需内容,例如 LoRA 或 GRPO。
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
用 PyTorch 从零实现的 Transformer 大模型训练教程与代码库,涵盖预训练、SFT、奖励模型、DPO/PPO/GRPO 与文本生成。
一门免费开源的 AI 工程课程,共 542 节课,用 Python、TypeScript、Rust 和 Julia 从零实现核心概念。
一套带逐行注释的教程,用 Python 和 PyTorch 从零实现并训练一个类 LLaMA 架构的小型 GPT。
包含 923 份论文、课程与文章的 Markdown 机器学习知识库,并附带一个基于 NumPy 的自定义分类/回归算法 APRL。
通过一份 YAML 配置完成 LLM 微调与后训练的命令行工具,支持在低显存消费级显卡上训练。
54 个无依赖、单文件的 Python 脚本,从零实现现代 AI 核心算法,便于读懂其底层原理。