跳转至

📚 04-LLM大模型 · 经典论文清单

Transformer 手推系列 24 讲已全部迁移完成,可作为面试/学习素材。

已迁移内容

Transformer 手推系列(0-23 讲,共 24 个 notebook)

核心概念: - 权重共享:输出投影复用词嵌入矩阵 W_emb 转置,省参数(大模型可省上亿参数) - 训练目标:交叉熵损失 L = -mean(ŷ * log p),梯度公式 dlogits = (p - ŷ)/N - 标签平滑:ŷ = (1-ε)onehot + ε/V,防过拟合,梯度公式不变 - 推理采样:温度 τ、top-k、top-p(同一套 logits,训练求稳,推理求多样性)

文件位置: autumn-recruit-algo/04-LLM大模型/教学/(24 个 notebook 全量)

相关面试题: - 权重共享(tied embedding) - 损失函数(CE vs 其他) - 推理采样参数

后续计划: - 将教学目录 notebook 转成 Markdown 精读版 - 补充 MiniMind 预训练/SFT/RL 各讲

状态:✅ 已迁移到面试准备目录


架构与基础(Transformer 出发)

  • [ ] 🔴 Attention Is All You Need(Vaswani et al., 2017)—— Transformer 原文,自注意力/多头/位置编码全细节
  • [ ] 🔴 BERT(Devlin et al., 2019)—— Encoder-only + MLM/NSP,预训练-微调范式的确立
  • [ ] 🟡 GPT-1 / GPT-2 / GPT-3(Radford et al. / Brown et al.)—— Decoder-only、缩放定律、few-shot 涌现
  • [ ] 🟡 RoFormer(Su et al., 2021)—— RoPE 旋转位置编码
  • [ ] 🟡 FlashAttention(Dao et al., 2022)—— IO 感知注意力,在线 softmax 分块计算
  • [ ] 🟡 GQA: Multi-Query Attention 改进(Ainslie et al., 2023)—— GQA 分组查询注意力
  • [ ] 🟢 LLaMA: Open and Efficient Foundation Models(Touvron et al., 2023)—— 开源 LLM 结构标杆(RMSNorm/SwiGLU/RoPE/GQA)
  • [ ] 🟡 Mixtral / Switch Transformer—— MoE 稀疏专家架构

训练与对齐

  • [ ] 🔴 InstructGPT(Ouyang et al., 2022)—— SFT → RM → PPO 的 RLHF 完整流水线,论文必精读
  • [ ] 🔴 PPO(Schulman et al., 2017)—— 强化学习 PPO 算法,clip 目标
  • [ ] 🔴 DPO(Rafailov et al., 2023)—— 直接偏好优化,偏好数据直接对齐,无需 RM
  • [ ] 🟡 GRPO(DeepSeekMath / DeepSeek-R1)—— 组相对策略优化,去掉 critic,推理模型训练关键
  • [ ] 🟡 Chinchilla(Hoffmann et al., 2022)—— 训练计算配比定律(约 20 token/参数)
  • [ ] 🟢 LoRA(Hu et al., 2021)—— 低秩适配微调,PEFT 基石
  • [ ] 🟡 QLoRA(Dettmers et al., 2023)—— 4bit 量化 + LoRA
  • [ ] 🟡 DeepSeek-R1—— GRPO + 冷启动 + RL 驱动的推理能力,o1 开源对标

应用与生态

  • [ ] 🔴 RAG: Retrieval-Augmented Generation(Lewis et al., 2020)—— 检索增强生成原始论文
  • [ ] 🟡 ReAct(Yao et al., 2022)—— Reasoning + Acting 交替的 Agent 范式
  • [ ] 🟢 Chain-of-Thought(Wei et al., 2022)—— CoT 提示,涌现推理能力
  • [ ] 🟢 Self-Consistency(Wang et al., 2022)—— CoT-SC 多数投票
  • [ ] 🟡 Toolformer(Schick et al., 2023)或 Function Calling 相关—— 模型学习调用工具
  • [ ] 🟢 CLIP(Radford et al., 2021)—— 图文对比学习,多模态对齐基石

推理与效率

  • [ ] 🟡 Efficient Transformers / 长上下文综述(通读一篇即可)
  • [ ] 🟡 LLM.int8() / GPTQ / AWQ(量化三选一精读,其余略读)
  • [ ] 🟢 Speculative Decoding(Leviathan et al., 2023)—— 投机解码加速推理
  • [ ] 🟢 vLLM / PagedAttention(Kwon et al., 2023)—— 分页注意力与推理引擎

阅读顺序建议(6 个月版)

  1. 第 1 个月:Attention Is All You Need → BERT → GPT-3(建立架构主线)
  2. 第 2 个月:InstructGPT → PPO → DPO → GRPO(对齐主线)
  3. 第 3 个月:FlashAttention → GQA → LoRA/QLoRA(效率与微调)
  4. 第 4 个月:RAG → ReAct → CoT(应用主线)
  5. 第 5 个月:LLaMA → Chinchilla → MoE(规模与前沿)
  6. 第 6 个月:DeepSeek 系列 + 按投递公司方向补齐

精读论文的笔记模板(进 专题笔记/)

# 论文名(年份)

## 一句话贡献
## 解决的问题
## 核心方法(含关键公式)
## 实验与结论
## 与我项目的关系 / 面试可以怎么讲
## 可能的追问

教程来源:Akun-python/autumn-recruitment。 MIT 许可证全文。