📚 04-LLM大模型 · 经典论文清单¶
Transformer 手推系列 24 讲已全部迁移完成,可作为面试/学习素材。
已迁移内容¶
Transformer 手推系列(0-23 讲,共 24 个 notebook)¶
核心概念:
- 权重共享:输出投影复用词嵌入矩阵 W_emb 转置,省参数(大模型可省上亿参数)
- 训练目标:交叉熵损失 L = -mean(ŷ * log p),梯度公式 dlogits = (p - ŷ)/N
- 标签平滑:ŷ = (1-ε)onehot + ε/V,防过拟合,梯度公式不变
- 推理采样:温度 τ、top-k、top-p(同一套 logits,训练求稳,推理求多样性)
文件位置:
autumn-recruit-algo/04-LLM大模型/教学/(24 个 notebook 全量)
相关面试题: - 权重共享(tied embedding) - 损失函数(CE vs 其他) - 推理采样参数
后续计划: - 将教学目录 notebook 转成 Markdown 精读版 - 补充 MiniMind 预训练/SFT/RL 各讲
状态:✅ 已迁移到面试准备目录
架构与基础(Transformer 出发)¶
- [ ] 🔴 Attention Is All You Need(Vaswani et al., 2017)—— Transformer 原文,自注意力/多头/位置编码全细节
- [ ] 🔴 BERT(Devlin et al., 2019)—— Encoder-only + MLM/NSP,预训练-微调范式的确立
- [ ] 🟡 GPT-1 / GPT-2 / GPT-3(Radford et al. / Brown et al.)—— Decoder-only、缩放定律、few-shot 涌现
- [ ] 🟡 RoFormer(Su et al., 2021)—— RoPE 旋转位置编码
- [ ] 🟡 FlashAttention(Dao et al., 2022)—— IO 感知注意力,在线 softmax 分块计算
- [ ] 🟡 GQA: Multi-Query Attention 改进(Ainslie et al., 2023)—— GQA 分组查询注意力
- [ ] 🟢 LLaMA: Open and Efficient Foundation Models(Touvron et al., 2023)—— 开源 LLM 结构标杆(RMSNorm/SwiGLU/RoPE/GQA)
- [ ] 🟡 Mixtral / Switch Transformer—— MoE 稀疏专家架构
训练与对齐¶
- [ ] 🔴 InstructGPT(Ouyang et al., 2022)—— SFT → RM → PPO 的 RLHF 完整流水线,论文必精读
- [ ] 🔴 PPO(Schulman et al., 2017)—— 强化学习 PPO 算法,clip 目标
- [ ] 🔴 DPO(Rafailov et al., 2023)—— 直接偏好优化,偏好数据直接对齐,无需 RM
- [ ] 🟡 GRPO(DeepSeekMath / DeepSeek-R1)—— 组相对策略优化,去掉 critic,推理模型训练关键
- [ ] 🟡 Chinchilla(Hoffmann et al., 2022)—— 训练计算配比定律(约 20 token/参数)
- [ ] 🟢 LoRA(Hu et al., 2021)—— 低秩适配微调,PEFT 基石
- [ ] 🟡 QLoRA(Dettmers et al., 2023)—— 4bit 量化 + LoRA
- [ ] 🟡 DeepSeek-R1—— GRPO + 冷启动 + RL 驱动的推理能力,o1 开源对标
应用与生态¶
- [ ] 🔴 RAG: Retrieval-Augmented Generation(Lewis et al., 2020)—— 检索增强生成原始论文
- [ ] 🟡 ReAct(Yao et al., 2022)—— Reasoning + Acting 交替的 Agent 范式
- [ ] 🟢 Chain-of-Thought(Wei et al., 2022)—— CoT 提示,涌现推理能力
- [ ] 🟢 Self-Consistency(Wang et al., 2022)—— CoT-SC 多数投票
- [ ] 🟡 Toolformer(Schick et al., 2023)或 Function Calling 相关—— 模型学习调用工具
- [ ] 🟢 CLIP(Radford et al., 2021)—— 图文对比学习,多模态对齐基石
推理与效率¶
- [ ] 🟡 Efficient Transformers / 长上下文综述(通读一篇即可)
- [ ] 🟡 LLM.int8() / GPTQ / AWQ(量化三选一精读,其余略读)
- [ ] 🟢 Speculative Decoding(Leviathan et al., 2023)—— 投机解码加速推理
- [ ] 🟢 vLLM / PagedAttention(Kwon et al., 2023)—— 分页注意力与推理引擎
阅读顺序建议(6 个月版)¶
- 第 1 个月:Attention Is All You Need → BERT → GPT-3(建立架构主线)
- 第 2 个月:InstructGPT → PPO → DPO → GRPO(对齐主线)
- 第 3 个月:FlashAttention → GQA → LoRA/QLoRA(效率与微调)
- 第 4 个月:RAG → ReAct → CoT(应用主线)
- 第 5 个月:LLaMA → Chinchilla → MoE(规模与前沿)
- 第 6 个月:DeepSeek 系列 + 按投递公司方向补齐
精读论文的笔记模板(进 专题笔记/)¶
# 论文名(年份)
## 一句话贡献
## 解决的问题
## 核心方法(含关键公式)
## 实验与结论
## 与我项目的关系 / 面试可以怎么讲
## 可能的追问