🎯 19-推荐系统:召回 / 排序 / CTR 预估 / 冷启动 / 多目标 / 搜广推¶
推荐系统(搜索/推荐/广告,俗称搜广推)是算法岗招聘量最大的方向之一。 本模块从「一条推荐链路」入手,覆盖评估指标(AUC/GAUC/NDCG)、协同过滤、矩阵分解、 双塔召回与向量检索、CTR 预估(LR→FM→DeepFM/GBDT+LR)、排序特征与采样、 冷启动与多目标(ESMM/MMoE)、工业流程与面试八股,全部可执行、含断言与可视化。
面向秋招画像:推荐/搜索/广告算法工程师、增长算法、商业化算法 岗位。 前置衔接:02-机器学习(LR/GBDT/特征工程)、03-深度学习(DNN/Embedding)、 17-数据科学(AB 实验/评估)、18-数据分析(业务指标/用户分层)。
🖼️ 教学 notebook 全部基于 numpy/pandas/matplotlib/scipy/sklearn,自包含可执行, 含断言与数值对照(手写 vs 库实现);绘图统一中文字体并显式
plt.show()。
知识地图(面试考察的八块)¶
推荐系统考点
├── 1. 链路与评估 召回→粗排→精排→重排→AB · AUC/GAUC/NDCG@K/HR@K/Recall@K
├── 2. 协同过滤 UserCF / ItemCF · 余弦/皮尔逊相似度 · Top-N 推荐
├── 3. 矩阵分解 Funk-SVD(SGD+偏差+正则)· 截断 SVD · embedding 语义
├── 4. 双塔召回 两塔 MLP · 内积/余弦 · 负采样 · ANN(HNSW/IVF/PQ)
├── 5. CTR 预估 LR → LR+交叉 → FM(pair 项+梯度)→ GBDT+LR → Wide&Deep/DeepFM
├── 6. 排序工程 特征体系 · 特征交叉 · 负样本采样 · Pointwise/Pairwise/Listwise
├── 7. 冷启动多目标 用户/物品冷启动五方案 · EE · ESMM 乘法 · MMoE 门控
└── 8. 工业八股 多路召回合并 · 重排打散 · 常见坑 · 高频题速答
学习路线(推荐顺序)¶
- 搭框架(00):推荐链路五段 + 评估指标手写(AUC/GAUC/NDCG)✅
- 经典算法(01-02):协同过滤(UserCF/ItemCF)→ 矩阵分解与隐语义(Funk-SVD)✅
- 工业召回(03):双塔 + 负采样 + 向量检索(含 ANN 索引对比)✅
- 精排模型(04-05):CTR 预估演进(LR→FM→GBDT+LR→DeepFM 概念)→ 排序特征与采样 ✅
- 高阶专题(06):冷启动五方案 + ESMM/MMoE 多目标 ✅
- 冲刺(07):工业流程串讲 + 16+ 高频题 + 手撕(多路合并/打散)+ 常见坑 ✅
教学 Notebook 索引(8 篇,全部通过 nbclient 执行验证)¶
| 笔记 | 核心手写/演示 | 状态 |
|---|---|---|
| 00-推荐系统总览与评估指标 | 五段链路、AUC 手写(秩和法 vs sklearn)、GAUC 加权、HR/Recall/NDCG@K、ROC 曲线 | ✅ |
| 01-协同过滤 | 余弦相似度矩阵、UserCF 预测与 Top-N、ItemCF 推荐、六维对比表、相似度热力图 | ✅ |
| 02-矩阵分解与隐语义模型 | Funk-SVD 手写(偏差+正则+SGD)、RMSE 评估、截断 SVD 对比、embedding PCA 可视化 | ✅ |
| 03-双塔召回与向量检索 | 双塔前向、正/负采样、向量化训练(交叉熵)、召回@20 评估、暴力检索 vs ANN | ✅ |
| 04-CTR预估模型 | LR 基线、手动交叉特征、FM pair 项手写+梯度、GBDT+LR、Wide&Deep/DeepFM 结构 | ✅ |
| 05-排序特征工程与采样 | 特征四类体系、特征交叉、随机/曝光/难负采样对比、Pointwise/Pairwise/Listwise | ✅ |
| 06-冷启动与多目标优化 | 冷启动方案地图、热度兜底 vs 画像匹配、ESMM 乘法演示、MMoE 门控权重 | ✅ |
| 07-推荐系统面试八股与工业流程 | 流程串讲、16+ 高频题速答、多路召回合并去重、贪心打散、常见坑清单 | ✅ |
🖼️ 图库:自绘高清流程图(300dpi · 教学/images/)¶
| 图 | 说明 | 用于 Notebook |
|---|---|---|
recommend_pipeline.png |
推荐五段链路(召回→粗排→精排→重排→AB)与候选量级 | 00 |
user_item_cf.png |
UserCF(找相似用户)vs ItemCF(找相似物品) | 01 |
two_tower_recall.png |
双塔召回结构(用户塔/物品塔 + 内积 + ANN) | 03 |
ctr_models.png |
CTR 模型演进(LR→FM→GBDT+LR→Wide&Deep→DeepFM) | 04 |
negative_sampling.png |
负样本采样三策略对比 | 05 |
multi_objective.png |
ESMM 乘法模型 + MMoE 门控多目标 | 06 |
recsys_interview_map.png |
推荐面试知识地图(八块闭环) | 07 |
📷 真实配图(Wikimedia Commons,已插入对应 notebook)
| 图 | 说明 | 用于 Notebook |
|---|---|---|
web_recommend_flow.png |
推荐系统端到端流程图(采集→召回→排序→Top-N) | 00 |
web_recommend_arch.svg |
推荐架构分层总览 | 00 |
web_cf_network.gif |
协同过滤评分矩阵动图(UserCF/ItemCF 补全) | 01 |
web_matrix_factorization.png |
矩阵分解 R≈P·Qᵀ 示意 | 02 |
📄 经典论文原图(arXiv 论文原图,已插入对应 notebook 并标注出处)
| 图 | 论文出处 | 用于 Notebook |
|---|---|---|
paper_widedeep_arch.png |
Cheng et al., Wide & Deep, DLRS 2016(arXiv:1606.07792)图4:Wide 记忆 + Deep 泛化联合训练 | 04 |
paper_deepfm_arch.png |
Guo et al., DeepFM, IJCAI 2017(arXiv:1703.04247)图1:FM 低阶交叉 + DNN 高阶交叉 | 04 |
paper_esmm_arch.png |
Ma et al., ESMM, SIGIR 2018(arXiv:1804.07931)图2:主任务 pCVR + 辅助 pCTR/pCTCVR 乘法关系 | 06 |
与其他章节衔接¶
| 本模块主题 | 前置章节 | 衔接说明 |
|---|---|---|
| LR / GBDT / 特征工程 | 02-机器学习 | 精排模型的基座:LR、GBDT、特征工程与评估 |
| DNN / Embedding / 注意力 | 03-深度学习 | DeepFM/Wide&Deep 的网络结构与训练基础 |
| AB 实验 / 显著性 | 17-数据科学 01-AB实验 | 推荐线上评估与放量必须的统计功底 |
| 业务指标 / 用户分层 | 18-数据分析 | 指标体系、用户画像与运营视角 |
| 向量检索 / 最近邻 | 04-LLM大模型 07-RAG | RAG 检索与向量召回同源(ANN/HNSW) |
| 图表示 / 社交关系 | 22-图神经网络与知识图谱 | GraphSAGE/知识图谱可做召回与冷启动补充 |
面试高频题型(详见 高频面试题.md)¶
- 评估类:AUC 物理意义、GAUC 为什么更贴近推荐、NDCG 位置加权、离线评估三偏差
- 召回类:双塔为什么适合召回、负采样策略、ANN 索引(HNSW/IVF/PQ)、多路召回合并
- 排序类:FM pair 项推导、GBDT+LR 原理、DeepFM 结构、Pointwise vs Pairwise
- 冷启动类:用户/物品冷启动方案、EE(探索-利用)、信息茧房
- 多目标类:ESMM 乘法关系、MMoE 门控、任务冲突与负迁移
- 工业类:链路各层职责、位置偏差/曝光偏差、特征穿越、AB 实验与放量
验收标准¶
- [ ] 能手写 AUC(秩和法)并与 sklearn 对照,讲清 GAUC 与全局 AUC 的区别
- [ ] 能手写 HR@K / Recall@K / NDCG@K 并解释每个指标含义
- [ ] 能手写 UserCF(相似度→邻居→预测)并背出与 ItemCF 的六维对比
- [ ] 能手写 Funk-SVD(偏差+正则+SGD)并解释与截断 SVD 的差异
- [ ] 能画出双塔召回结构,解释离线/在线解耦,能手写负采样训练
- [ ] 能手写 FM pair 项公式并推导梯度;能画出 Wide&Deep 与 DeepFM 结构
- [ ] 能背出用户冷启动五方案、物品冷启动四方案
- [ ] 能解释 ESMM 乘法关系与 MMoE 门控思想
- [ ] 能背出位置偏差/曝光偏差/特征穿越/信息茧房等常见坑及对策
- [ ] 能把一条推荐系统流程讲 5 分钟不卡壳;高频题 16+ 题可现场作答