Repolode
提交项目
afshinea

afshinea/stanford-cme-295-transformers-large-language-models

浓缩斯坦福 CME 295 课程内容的 Transformer 与大语言模型速查手册与学习指南。

在 GitHub 查看
Star
4,967
Fork
722
未关闭 Issue
8
最近提交
上个月

这是什么？

本仓库将斯坦福大学 CME 295 课程（Transformer 与大语言模型）的核心知识点汇总在一份速查表中。内容从自注意力机制、Transformer 架构及其变体等基础讲起，随后涵盖提示词工程、SFT、LoRA 等微调方法，以及 RLHF、DPO 等偏好对齐技术。

此外还包括 RLVR、OPD 等面向推理的训练方法，分布式训练、KV 缓存、推测解码等推理优化手段，以及 AI 智能体、模型评测和扩散语言模型等应用与扩展方向。内容以 PDF 速查表形式提供，并有多种语言版本，是一本配套长篇教材的概要。

核心功能

  • 01涵盖自注意力机制与 Transformer 架构变体等基础知识
  • 02讲解 SFT、LoRA 微调以及 RLHF、DPO 偏好对齐方法
  • 03概述 RLVR、OPD 等推理训练方法
  • 04介绍 KV 缓存、推测解码等推理优化技术
  • 05提供可下载的 PDF 速查表，并有多种语言版本

适用场景

  • 在面试或考试前复习大模型与 Transformer 的核心概念
  • 快速了解现代大语言模型的训练流程
  • 配合斯坦福 CME 295 课程学习或作为其补充资料

标签

#transformers#llm#deep-learning#fine-tuning#study-guide#cheatsheet#attention-mechanism

常见问题

stanford-cme-295-transformers-large-language-models 是什么？
浓缩斯坦福 CME 295 课程内容的 Transformer 与大语言模型速查手册与学习指南。 本仓库将斯坦福大学 CME 295 课程（Transformer 与大语言模型）的核心知识点汇总在一份速查表中。内容从自注意力机制、Transformer 架构及其变体等基础讲起，随后涵盖提示词工程、SFT、LoRA 等微调方法，以及 RLHF、DPO 等偏好对齐技术。
stanford-cme-295-transformers-large-language-models 可以免费使用吗？用的什么许可证？
stanford-cme-295-transformers-large-language-models 以 MIT 许可证开源。用于商业产品前，请先确认许可证条款。
stanford-cme-295-transformers-large-language-models 还在维护吗？
半年内有更新。stanford-cme-295-transformers-large-language-models 最近一次提交是在 2026年9月13日。
stanford-cme-295-transformers-large-language-models 适合用来做什么？
在面试或考试前复习大模型与 Transformer 的核心概念 快速了解现代大语言模型的训练流程 配合斯坦福 CME 295 课程学习或作为其补充资料
在哪里获取 stanford-cme-295-transformers-large-language-models？
源代码和安装说明在 GitHub 上：https://github.com/afshinea/stanford-cme-295-transformers-large-language-models

概要由 AI 根据项目 README 生成；GitHub 数据每日更新。

相关项目