跳转至

🎯 19-推荐系统:召回 / 排序 / CTR 预估 / 冷启动 / 多目标 / 搜广推

推荐系统(搜索/推荐/广告,俗称搜广推)是算法岗招聘量最大的方向之一。 本模块从「一条推荐链路」入手,覆盖评估指标(AUC/GAUC/NDCG)、协同过滤、矩阵分解、 双塔召回与向量检索、CTR 预估(LR→FM→DeepFM/GBDT+LR)、排序特征与采样、 冷启动与多目标(ESMM/MMoE)、工业流程与面试八股,全部可执行、含断言与可视化。

面向秋招画像:推荐/搜索/广告算法工程师、增长算法、商业化算法 岗位。 前置衔接:02-机器学习(LR/GBDT/特征工程)、03-深度学习(DNN/Embedding)、 17-数据科学(AB 实验/评估)、18-数据分析(业务指标/用户分层)。

🖼️ 教学 notebook 全部基于 numpy/pandas/matplotlib/scipy/sklearn,自包含可执行, 含断言与数值对照(手写 vs 库实现);绘图统一中文字体并显式 plt.show()。

知识地图(面试考察的八块)

推荐系统考点
├── 1. 链路与评估  召回→粗排→精排→重排→AB · AUC/GAUC/NDCG@K/HR@K/Recall@K
├── 2. 协同过滤    UserCF / ItemCF · 余弦/皮尔逊相似度 · Top-N 推荐
├── 3. 矩阵分解     Funk-SVD(SGD+偏差+正则)· 截断 SVD · embedding 语义
├── 4. 双塔召回    两塔 MLP · 内积/余弦 · 负采样 · ANN(HNSW/IVF/PQ)
├── 5. CTR 预估     LR → LR+交叉 → FM(pair 项+梯度)→ GBDT+LR → Wide&Deep/DeepFM
├── 6. 排序工程    特征体系 · 特征交叉 · 负样本采样 · Pointwise/Pairwise/Listwise
├── 7. 冷启动多目标  用户/物品冷启动五方案 · EE · ESMM 乘法 · MMoE 门控
└── 8. 工业八股    多路召回合并 · 重排打散 · 常见坑 · 高频题速答

学习路线(推荐顺序)

  1. 搭框架(00):推荐链路五段 + 评估指标手写(AUC/GAUC/NDCG)✅
  2. 经典算法(01-02):协同过滤(UserCF/ItemCF)→ 矩阵分解与隐语义(Funk-SVD)✅
  3. 工业召回(03):双塔 + 负采样 + 向量检索(含 ANN 索引对比)✅
  4. 精排模型(04-05):CTR 预估演进(LR→FM→GBDT+LR→DeepFM 概念)→ 排序特征与采样 ✅
  5. 高阶专题(06):冷启动五方案 + ESMM/MMoE 多目标 ✅
  6. 冲刺(07):工业流程串讲 + 16+ 高频题 + 手撕(多路合并/打散)+ 常见坑 ✅

教学 Notebook 索引(8 篇,全部通过 nbclient 执行验证)

笔记 核心手写/演示 状态
00-推荐系统总览与评估指标 五段链路、AUC 手写(秩和法 vs sklearn)、GAUC 加权、HR/Recall/NDCG@K、ROC 曲线 ✅
01-协同过滤 余弦相似度矩阵、UserCF 预测与 Top-N、ItemCF 推荐、六维对比表、相似度热力图 ✅
02-矩阵分解与隐语义模型 Funk-SVD 手写(偏差+正则+SGD)、RMSE 评估、截断 SVD 对比、embedding PCA 可视化 ✅
03-双塔召回与向量检索 双塔前向、正/负采样、向量化训练(交叉熵)、召回@20 评估、暴力检索 vs ANN ✅
04-CTR预估模型 LR 基线、手动交叉特征、FM pair 项手写+梯度、GBDT+LR、Wide&Deep/DeepFM 结构 ✅
05-排序特征工程与采样 特征四类体系、特征交叉、随机/曝光/难负采样对比、Pointwise/Pairwise/Listwise ✅
06-冷启动与多目标优化 冷启动方案地图、热度兜底 vs 画像匹配、ESMM 乘法演示、MMoE 门控权重 ✅
07-推荐系统面试八股与工业流程 流程串讲、16+ 高频题速答、多路召回合并去重、贪心打散、常见坑清单 ✅

🖼️ 图库:自绘高清流程图(300dpi · 教学/images/)

图 说明 用于 Notebook
recommend_pipeline.png 推荐五段链路(召回→粗排→精排→重排→AB)与候选量级 00
user_item_cf.png UserCF(找相似用户)vs ItemCF(找相似物品) 01
two_tower_recall.png 双塔召回结构(用户塔/物品塔 + 内积 + ANN) 03
ctr_models.png CTR 模型演进(LR→FM→GBDT+LR→Wide&Deep→DeepFM) 04
negative_sampling.png 负样本采样三策略对比 05
multi_objective.png ESMM 乘法模型 + MMoE 门控多目标 06
recsys_interview_map.png 推荐面试知识地图(八块闭环) 07

📷 真实配图(Wikimedia Commons,已插入对应 notebook)

图 说明 用于 Notebook
web_recommend_flow.png 推荐系统端到端流程图(采集→召回→排序→Top-N) 00
web_recommend_arch.svg 推荐架构分层总览 00
web_cf_network.gif 协同过滤评分矩阵动图(UserCF/ItemCF 补全) 01
web_matrix_factorization.png 矩阵分解 R≈P·Qᵀ 示意 02

📄 经典论文原图(arXiv 论文原图,已插入对应 notebook 并标注出处)

图 论文出处 用于 Notebook
paper_widedeep_arch.png Cheng et al., Wide & Deep, DLRS 2016(arXiv:1606.07792)图4:Wide 记忆 + Deep 泛化联合训练 04
paper_deepfm_arch.png Guo et al., DeepFM, IJCAI 2017(arXiv:1703.04247)图1:FM 低阶交叉 + DNN 高阶交叉 04
paper_esmm_arch.png Ma et al., ESMM, SIGIR 2018(arXiv:1804.07931)图2:主任务 pCVR + 辅助 pCTR/pCTCVR 乘法关系 06

与其他章节衔接

本模块主题 前置章节 衔接说明
LR / GBDT / 特征工程 02-机器学习 精排模型的基座:LR、GBDT、特征工程与评估
DNN / Embedding / 注意力 03-深度学习 DeepFM/Wide&Deep 的网络结构与训练基础
AB 实验 / 显著性 17-数据科学 01-AB实验 推荐线上评估与放量必须的统计功底
业务指标 / 用户分层 18-数据分析 指标体系、用户画像与运营视角
向量检索 / 最近邻 04-LLM大模型 07-RAG RAG 检索与向量召回同源(ANN/HNSW)
图表示 / 社交关系 22-图神经网络与知识图谱 GraphSAGE/知识图谱可做召回与冷启动补充

面试高频题型(详见 高频面试题.md)

  • 评估类:AUC 物理意义、GAUC 为什么更贴近推荐、NDCG 位置加权、离线评估三偏差
  • 召回类:双塔为什么适合召回、负采样策略、ANN 索引(HNSW/IVF/PQ)、多路召回合并
  • 排序类:FM pair 项推导、GBDT+LR 原理、DeepFM 结构、Pointwise vs Pairwise
  • 冷启动类:用户/物品冷启动方案、EE(探索-利用)、信息茧房
  • 多目标类:ESMM 乘法关系、MMoE 门控、任务冲突与负迁移
  • 工业类:链路各层职责、位置偏差/曝光偏差、特征穿越、AB 实验与放量

验收标准

  • [ ] 能手写 AUC(秩和法)并与 sklearn 对照,讲清 GAUC 与全局 AUC 的区别
  • [ ] 能手写 HR@K / Recall@K / NDCG@K 并解释每个指标含义
  • [ ] 能手写 UserCF(相似度→邻居→预测)并背出与 ItemCF 的六维对比
  • [ ] 能手写 Funk-SVD(偏差+正则+SGD)并解释与截断 SVD 的差异
  • [ ] 能画出双塔召回结构,解释离线/在线解耦,能手写负采样训练
  • [ ] 能手写 FM pair 项公式并推导梯度;能画出 Wide&Deep 与 DeepFM 结构
  • [ ] 能背出用户冷启动五方案、物品冷启动四方案
  • [ ] 能解释 ESMM 乘法关系与 MMoE 门控思想
  • [ ] 能背出位置偏差/曝光偏差/特征穿越/信息茧房等常见坑及对策
  • [ ] 能把一条推荐系统流程讲 5 分钟不卡壳;高频题 16+ 题可现场作答

教程来源:Akun-python/autumn-recruitment。 MIT 许可证全文。