📝 autumn-recruit-algo 01/02/03 目录完善计划¶
✅ 状态:全部完成(2026-09 两次完善迭代收官)
- 第一轮:修复全部 12 处代码硬伤 + 补齐 P0/P1 内容缺口(28/28 notebook 批量执行验证通过)
- 第二轮(贯穿性):
- 模板代码
01/模板代码/11 份全部执行验证通过(修复 05-二叉树 最大路径和测试断言 bug)- 生活化类比补齐:05-PCA「拍侧面照」、06-GBDT「接力纠错」、07-决策树「二十问猜物」
- 跨主题导航:三份题单每个小节补
📍 实现指路(01 高频题单 14 条、02 面试题 8 条、03 面试题 6 条)- 自测清单全部为「题名+题号+验证要点」格式,覆盖 ≥ 22/25
➕ 09/10/11 目录新增完善计划(2026 追加)¶
✅ 状态:全部完成(三章 27 篇 notebook 全量 nbclient 执行验证通过)
⚠️ 最新计数已更新:122 篇(03-深度学习 追加 8 篇架构 notebook 后总数,见文末「2026 追加 2」)
09-计算机视觉(11 篇)¶
- [x] 00-07 八篇:图像基础/边缘特征/CNN 深入/经典架构/目标检测/分割/度量学习/面试八股(含推导 + 手写 + sklearn/torch 对照 + 自测)
- [x] 08-YOLO 全系列详解(v1→v11 演进/v1 损失五项/K-Means anchor/CIoU/TaskAlignedAssigner)
- [x] 09-U-Net 全家族详解(Attention Gate/U-Net++/V-Net 3D)
- [x] 10-SAM 与视觉基础模型(patch embedding/cross-attention/MAE 掩码/SAM2)
- [x] 修复记录:02 卷积反向缓存全局 x / F 覆盖 functional;05 MiniUNet 超参(lr3e-3/40ep);06 检索共享簇中心 + margin 2.0;07 NMS 向量化 keep 掩码;00 rotate 高级索引
- [x] 11 篇全部 nbclient PASS(含 08/09/10 三篇详述)
10-自然语言处理(8 篇)¶
- [x] 00 文本表示/TF-IDF(手写 vs sklearn Count/TfidfVectorizer 逐位一致)
- [x] 01 n-gram 语言模型(平滑 + PPL 覆盖/未见句对比)
- [x] 02 Word2Vec/GloVe(负采样 + 截断 SVD 低秩分解)
- [x] 03 RNN/BPTT/LSTM(数值梯度 <1e-6、torch 对照 <1e-5、CharRNN 生成)
- [x] 04 Attention/Transformer(torch 对照 <1e-4、mini-Transformer 倒序)
- [x] 05 预训练(mini-BERT MLM cloze / mini-GPT 因果自回归)
- [x] 06 分类与序列标注(朴素贝叶斯 vs sklearn、BiLSTM 词性标注、指标手写)
- [x] 07 NLP 面试八股(90 连问 + 5 手撕)
- [x] 修复记录:00 sklearn token_pattern 过滤单字词;01 留一计数与 PPL 参数顺序;02 改为重构误差断言;03 c 末时刻切片;04 双向注意力(因果掩码不可学倒序)+ 模块级 rng;05 cloze 逐位置评估;07 负采样梯度 σ(x) 符号
- [x] 8 篇全部 nbclient PASS
11-时间序列(8 篇)¶
- [x] 00 基础与平稳性(ACF/PACF/差分/ADF/Ljung-Box 手写)
- [x] 01 ARMA/ARIMA(AR-OLS/MA 网格/AIC 定阶/多步预测)
- [x] 02 指数平滑(SES/Holt/Holt-Winters/95% 区间)
- [x] 03 时间序列分解(中心化 MA/季节指数/残差诊断)
- [x] 04 特征工程与机器学习(滑窗特征/Ridge/ExpandingWindow CV)
- [x] 05 深度学习时序(LSTM vs 基线/递归 vs 直接多步误差累积对比)
- [x] 06 评估与异常检测(指标 vs sklearn/z-score·IQR·滚动窗口/P-R)
- [x] 07 时间序列面试八股(90 连问 + 5 手撕)
- [x] 修复记录:00/01/03 acf 的 x[:-0] 空数组(ρ(0)≡1 从 k=1 起);00/01 PACF 取 beta[0](末列是 lag-1);02 best2 元组越界与 95%% 转义;03 季节指数避开 MA 边界(正自相关根因);05 递归回填维度 + 实验设计(单步模型不完美才能演示累积)
- [x] 8 篇全部 nbclient PASS
➕ 11-时间序列教学深度完善(2026 追加 3)¶
✅ 状态:全部完成(8 篇教学 notebook 全面深化至与 10-自然语言处理 同等深度,全量 nbclient 执行验证通过)
本轮深化要点(对照 10-NLP 教学模板:标题类比 / 核心概念 mermaid / 主线地图 / 历史背景 / 手算 / 实验断言 / 易错点 / 速答 / 自测 / 延伸阅读)¶
- [x] 00-基础与平稳性(40 cells):KPSS 对照 / 虚假回归演示 / 季节差分 / Yule-Walker 手算 / 生活化类比
- [x] 01-ARMA与ARIMA(40 cells):信息准则手算 / 扇形预测区间 / MA 可逆性 / 残差诊断图
- [x] 02-指数平滑(42 cells):SES≡ARIMA(0,1,1) 等价验证 / 参数网格 + 区间覆盖率
- [x] 03-时间序列分解(36 cells):加法/乘法模型 / Shapiro 正态检验 / 季节强度指标 / STL 异常检测基线
- [x] 04-特征工程与机器学习(40 cells):HGB + purged CV + embargo + walk-forward + 多步 ML + 特征泄漏演示(全量 vs 训练段标准化,泄漏版 MAE > 干净版×1.1)/ 置换重要性(sklearn 1.8 无 feature_importances_)
- [x] 05-深度学习时序预测(40 cells):LSTM 门控公式 + 参数量手算(PyTorch 4H(H+D+2)=4480) / 窗口长度扫描 / 递归 vs 直接多步按步长曲线 / 手写 TinySeq2Seq + teacher forcing / TCN 因果膨胀卷积 + RF=2^L 验证 / attention toy + 位置编码 / MC Dropout 不确定性 / 梯度裁剪
- [x] 06-评估与异常检测(32 cells):MASE / pinball·分位数回归 + 区间覆盖率 / STL 残差 / EWMA / CUSUM 抓漂移(先去季节再累积)
- [x] 07-时间序列面试八股(40 cells):110 连问(7 组×15+,新增综合进阶组)+ 8 手撕(新增中心化 MA / 泄漏演示 / 因果膨胀卷积)+ 高频追问表 + 场景题四步闭环 + 方法谱系一页纸
修复记录(本迭代)¶
- [x] 05:LSTM 参数量公式 4H(H+D+1) 与 PyTorch 实际 4480 不符 → 统一 4H(H+D+2) 口径并双口径说明;Seq2Seq 编码器按时间维循环(batch/seq 轴修正);attention toy 改正交 keys(点积≠欧氏距离)
- [x] 06:MASE 空占位 dict 条目删除;
90%字面量转义90%%;CUSUM 受季节分量干扰 → 先去已知季节并躲开尖峰起点 - [x] 07:中心化 MA 相位对齐(偶数周期两步平均 off-by-one 修正,2×4 MA 权重 [1,2,2,2,1]/8 断言)
- [x] 文件名对齐:06 沿用仓库既有名
06-评估与异常检测.ipynb(README/高频面试题引用一致)
全局同步(本迭代)¶
- [x]
11-时间序列/README.md:索引表核心内容/对照验证更新(MASE/pinball/STL残差/CUSUM/8手撕) - [x]
11-时间序列/高频面试题.md:5/6 节补 MASE、pinball、LSTM 参数量、STL 残差、EWMA/CUSUM;7 节补场景题闭环;8 节手撕清单 10→15 条 - [x] 8 篇全部 nbclient PASS(00: 40 / 01: 40 / 02: 42 / 03: 36 / 04: 40 / 05: 40 / 06: 32 / 07: 40)
- [x] git commit(仅 11-时间序列 + tools 生成器 + 本文件)
全局同步¶
- [x] 根 README:114 篇 / 11 模块 / badge 计数(modules 11、notebooks 114、nbclient 114/114)
- [x] ROADMAP Phase 3 补 NLP/时序主线与手推清单
- [x] 三章章内 README + 高频面试题(📍 教学指路 + 自测清单)
- [x] 每章独立 git commit + 最终验证 commit
依据三份深度审阅报告(2026-02 完成)汇总。目标:把"题单"变成"已实现题"、把"结论式推导"补成"可白板推演"、统一习题体系、修复代码硬伤。 完善三原则:更多细节(每节补推导中间步骤 + 高频题代码)、通俗易懂(每份补 1-2 个生活化类比/直觉)、整体完善(统一自测答案 + 可视化 + 跨主题导航)。
一、代码硬伤(必须修,不改会教错)¶
| 位置 | 问题 | 修复 |
|---|---|---|
| 01/00-排序算法.ipynb cell10 | bucket_sort 调用 insertion_sort(b) 丢弃返回值 → 桶内未排序,输出"正确: False" |
b = insertion_sort(b) 接收返回 |
| 02/01-线性回归.ipynb §4 | 反标准化公式漏 Σμ_j·w_j/s_j 项(数据 μ≈0 被掩盖) |
修正 b_orig 公式并保留均值项 |
| 02/07-决策树与随机森林.ipynb | RandomForest.max_features 计算后未使用,无特征子采样代码 |
在 split 时随机选特征子集,实现特征随机 |
| 02/06-GBDT.ipynb | ①特征重要性宣称"增益累计"实为"分裂次数加权";②for _t in range(1) 循环无意义 |
改注释/实现为真·增益累计;删除无意义循环 |
| 02/02-逻辑回归.ipynb | 正文公式 X^T(p-y) 与代码 grad/n 不一致 |
统一口径并注明"批平均" |
| 03/03-优化器.ipynb cell0 | 首 cell 是 markdown 类型却装整段 Python 代码 + 复制粘贴垃圾(约 3000 字重复) | 整 cell 删除;确认正式代码 cell 完整 |
| 03/01-MLP与BP.ipynb | grad_check 死代码(解析梯度填 None 从未调用) |
删除或重写为完整版 |
| 03/07-正则化.ipynb | §2 公式写 inverted dropout(h/(1-p))但代码实现 non-inverted → 公式与代码矛盾 | 统一:改代码为 inverted 或改公式注释为等价形式 |
| 03/04-RNN与LSTM.ipynb | ①backward 里 dout 刚算出就被 yerr 覆盖(死代码);②loss 用 mean 但梯度没除 T |
删死代码;统一 loss/梯度比例 |
| 03/02-CNN.ipynb | TinyCNN __init__ 硬编码 fc=(855,10) 但 forward 又动态重建 → 矛盾 |
固定输入 12×12 或做真自适应 |
| 03/05-BN.ipynb | if use_bn: W1 = W1 空占位语句 |
删除或换成 BN 后激活均值输出 |
| 03/06-激活与初始化.ipynb | xavier() 硬编码 default_rng(0) 不接受 seed |
加 seed 参数 |
二、P0 内容缺口(最高频考点缺代码/推导)¶
01-数据结构与算法¶
- 08-动态规划:背包二维→一维滚动演算(为什么逆序)、编辑距离 horse→ros 填表演算、LIS tails O(n log n) 正确性证明、322/152/279/746 代码、股票状态机转移图、输出路径类 DP(打印 LIS/LCS)
- 00-排序算法:建堆 O(n) 正式求和推导、三路快排代码、快排迭代栈版、基数 LSD/MSD 区分
- 03-链表:手写哈希+双向链表版 LRU(硬伤)、19 删除倒数第 N、2 两数相加
- 05-二分查找:第 4 题 O(log min(m,n)) 二分划分代码(硬伤)、74 二维矩阵、浮点二分示例、81 含重复代码
- 07-回溯:40/90 去重变体代码、131 分割回文串(切割类模板)、494 记忆化
- 06-二叉树:迭代中序/后序代码、BST 插入/删除手撕、110/222
- 09-贪心:135/738/406/253/621 代码、跳跃游戏贪心正确性证明(交换论证示例)
- 10-图:210 拓扑输出列表版、Kruskal(复用现成并查集)、网格 BFS 最短路径模板
- 13-字符串:Rabin-Karp 滚动哈希代码、14/459 代码、151 in-place 双反转、43 大数相乘
- 12-位运算:137 位计数模 3、371 位运算加法、201 公共前缀、67/342/476(每题都短,性价比最高)
- 11-堆:大顶堆手写、堆懒删除、703/239 堆解法
- 03 补充:01 原地哈希(41 缺失的第一个正数)套路、04 接雨水单调栈版 + 503、未知补充(按审阅逐份)
02-机器学习¶
- 03-朴素贝叶斯与K-Means:补 DBSCAN(核心点/边界点/噪声 + 代码)、层次聚类、聚类外部指标(纯度/NMI/ARI)、GMM/EM 从概念级升级为全量推导(E 步/M 步公式 + 收敛性思路)
- 06-GBDT:补 XGBoost 二阶泰勒展开推导、分类 GBDT(对数几率)代码、正则项、列采样
- 07-决策树与随机森林:补 CART/Gini 代码、剪枝(预剪枝/后剪枝)、特征随机修复
- 05-PCA:补 LDA(线性判别分析)推导与代码
- 01-线性回归:修 bug + 补坐标下降 Lasso 推导
- 通病:全部补 sklearn 对照 cell(手写 vs sklearn 结果一致性验证)
03-深度学习¶
- 02-CNN:补卷积/池化反向传播(dX/dW/db 三条梯度)、TinyCNN 真实训练(含梯度检查)、补"模板匹配"直觉
- 04-RNN/LSTM:补 LSTM 反向推导、补"传送带"类比、字符级生成演示
- 01-MLP/BP:补 softmax+交叉熵多分类推导、补"全 0 初始化为什么不行"(对称破坏)、反向 vs 前向 AD 对比
- 03-优化器:补偏差校正 1−β^t 展开推导、AdamW 手写、Nesterov 实现
- 06-激活与初始化:补全 0 初始化小节、Swish/SiLU、ReLU vs GELU 对比表、ReLU 死亡实验
- 07-正则化:补 Dropout 期望/方差推导(L3)、标签平滑/数据增强简例
- 05-BN:补"无 BN+大 lr 发散"对照组(现在只跑了无 BN+小 lr)
- 通病:全部补 torch 对照 cell(手写 vs torch.autograd / torch.optim / nn.LSTM / nn.BatchNorm / nn.Dropout)
三、P1-P3 贯穿性完善¶
- 通俗性(全部 28 份):每份开头或关键节补 1-2 个生活化类比
- 01:二分"猜数字"、堆"淘汰赛/优等生榜"、滑动窗口"加油站排队"、DP"借钱故事"
- 02:LR"log-odds 下注"、K-Means"班级分组"、PCA"拍侧面照降维"、GBDT"接力纠错"
- 03:CNN"模板匹配"、LSTM"传送带"、BN"逐特征温和白化"、BP"错误信号分发/多米诺骨牌"
- 自测体系:把纯题号 checkbox 升级为"题号 + 一句提示/验证要点";高价值题补可执行测试
- 边界测试:统一补空输入/单元素/全相等/大量重复测试用例
- 可视化(可选加分):给 08 DP 状态转移、04 单调栈、07 回溯决策树补图(用 matplotlib 内联)
- 跨主题导航:补"该题在哪份哪个 § 有完整实现"的指路
四、执行顺序¶
- 修复所有代码硬伤(上表 12 处)
- 补 P0 内容缺口(按 01 → 02 → 03 顺序)
- 贯穿性完善(类比 + 自测 + 边界测试)
- 批量执行验证:运行全部 notebook code cell,确认无错误、断言通过
- 更新三目录 README/高频题单,同步新增内容
➕ 03-深度学习架构系列新增完善计划(2026 追加 2)¶
✅ 状态:全部完成(03 章新增 08–15 共 8 篇架构 notebook,全量 nbclient 执行验证通过)
新增篇目(03-深度学习/模型笔记/,训练视角 01–07 之上叠加结构视角 08–15)¶
- [x] 08-神经网络架构全景图:谱系三族 / 三视角选型 / 参数量·FLOPs 手算(Conv·LSTM·MHA 对照 torch.numel)/ 六类 mini 骨架 / O(T²) vs O(T) 量级图
- [x] 09-CNN经典架构与PyTorch实现:LeNet→VGG→ResNet→EfficientNet 演进 / 手写 2D 卷积 vs nn.Conv2d / 感受野递推(两层 3×3=5×5 省 28%)/ 1×1·Depthwise / 残差 vs 无残差收敛对比
- [x] 10-RNN与LSTM深入GRU双向:torch 手写 RNN/LSTM/GRU cell vs nn 逐位对照(~1e-7)/ 门控公式与权重排布 / 梯度消失实测 / 双向拼接 / LSTM 学周期
- [x] 11-Attention与Transformer从零实现:SDPA 手写对照 / 手写多头 vs nn.MultiheadAttention / 正弦 PE / 因果掩码 / mini Encoder 倒序任务(vocab=11 pad=10 ignore_index,acc>0.9)
- [x] 12-Mamba与状态空间模型:连续 SSM → ZOH 离散化推导 / 递推≡卷积数值验证(~1e-12)/ 选择性演示 / toy Mamba 块 / SSM 学累计和(A→0 不遗忘)
- [x] 13-GAN生成对抗网络:minimax + 最优 D 推导 / toy GAN 8 高斯环 / 模式坍缩(D 过强)演示 / WGAN-GP(梯度惩罚)对比
- [x] 14-VAE与扩散模型:ELBO 两项推导 / 重参数化 / toy VAE / DDPM 前向加噪→预测噪声→反向采样
- [x] 15-深度学习架构面试八股:全架构对比表 / 可执行默写自检三连(参数量·门控·注意力掩码 ZOH)/ 40 连问 / 手撕清单 10 条 / 踩坑经验
修复记录(本迭代)¶
- [x] 08:MHA 参数量公式 4d²+4d(in_proj 3×(d²+d) + out_proj d²+d);SSM 骨架改标量状态;
train(mlp,'MLP')字符串误传 lr - [x] 10:
'%s' % tuple(...)元组被解包报错 → 改.format(tuple(...)) - [x] 11:倒序任务 acc 只有 0.73 → pad=10 + ignore_index + lr 5e-3 + 300ep(>0.9)
- [x] 生成器 cell 追加模式统一为
C.append(md/code(...))(曾因漏 append 只出 1 cell、patch 脚本粘连行)
全局同步(本次最新口径)¶
- [x] 根 README:122 篇(算法 14 · ML 13 · DL 15 · LLM 24 · 八股 8 · RL 8 · 优化 13 · CV 11 · NLP 8 · 时序 8)/ 11 模块 / badge(notebooks 122、nbclient 122/122)/ 03 章模块表与索引表 15 篇
- [x] 03 章 README:索引表拆「训练视角 01–07 / 架构视角 08–15」双表 + 学习顺序
- [x] 03 章高频面试题:④ ⑤ ⑥ 节补 📍 架构篇指路与新增考点(EfficientNet/双LSTM/掩码/KV cache/生成模型/SSM)+ 手推清单扩到 10 条
- [x] 8 篇全部 nbclient PASS(08: 9 cells / 09: 13 / 10: 9 / 11: 11 / 12: 9 / 13: 7 / 14: 7 / 15: 8)
- [x] git 逐章 commit