资源清单

使用原则（2026-10-21 更新）：本课程只以本地教材为准，不需要联网检索。下面的外部链接仅作"想深挖时去哪里"的备查清单，不是讲课依据。讲课内容一律从工作区里的 机器学习_第3章_线性模型.md 出发。

按"信任度 + 对本课程的直接可用性"排序。第 3 章的学习以 ① 本地教材 为主轴，其余按需查阅。

---

一手资料（Primary）

① 周志华《机器学习》，清华大学出版社，2016

• 本课程的主线教材。第 3 章 = 线性模型（pp. 53–74）。
• 勘误表（作者本人维护，务必对一遍）：http://cs.nju.edu.cn/zhouzh/zhouzh.files/publication/MLbook2016.htm
• 为什么是一手资料：这一章的每一个定义、每一个公式编号都以它为准。课程里的"式 (3.27)"就是这本书的编号。

② 南瓜书 PumpkinBook（Datawhale 开源）

• 在线阅读：https://datawhalechina.github.io/pumpkin-book/
• GitHub：https://github.com/datawhalechina/pumpkin-book
• 是什么：专门给西瓜书"补推导"的开源项目，按西瓜书的公式编号逐条给出 [推导] 和 [解析]。第 3 章覆盖完整。
• 怎么用（官方建议，也是本课程的建议）：以西瓜书为主线，卡住某个公式时再去查对应编号，不要当教材从头读。
• 本课程里凡是写"南瓜书 §3.x"的地方，就是建议你去那里看完整推导。

---

二手资料（讲解、视频、代码）

③ StatQuest（Josh Starmer）— 视频

• 频道：https://www.youtube.com/@statquest
• 相关单集：Linear Regression、Logistic Regression、Linear Discriminant Analysis (LDA)、ROC and AUC。
• 为什么好：全部用手画图讲直觉，几乎不写公式。适合在读完一节之后用来看自己有没有真的理解。英文，但配了字幕，语速慢。

④ scikit-learn 官方文档 — 代码对照

• 线性模型总览：https://scikit-learn.org/stable/modules/linear_model.html
• LDA：https://scikit-learn.org/stable/modules/lda_qda.html
• 多分类策略（OvO/OvR）：https://scikit-learn.org/stable/modules/multiclass.html
• 为什么好：文档里每个类都写清了它对应哪个数学假设、有哪些坑。LogisticRegression 的 class_weight 参数就是 3.6 节的"再缩放"在产品里的样子。

⑤ Stanford CS229 讲义（Andrew Ng）

• https://cs229.stanford.edu/main_notes.pdf
• 第 1–3 讲覆盖线性回归、logistic 回归、广义线性模型、生成学习算法（含高斯判别分析，是 LDA 的概率版）。
• 为什么好：广义线性模型（3.2 结尾）和"为什么用 sigmoid"在这里讲得比西瓜书更透。

⑥ 《The Elements of Statistical Learning》(ESL)，Hastie/Tibshirani/Friedman

• 作者免费公开的 PDF：https://hastie.su.domains/ElemStatLearn/
• 对应章节：§3.2（least squares）、§4.4（logistic regression 的分离问题）、§4.3（LDA）。
• 定位：偏统计视角的进阶参考。现在不用读，等你想知道"最小二乘为什么在统计上合理"时再来。

⑦ Boyd & Vandenberghe, Convex Optimization

• 免费 PDF：https://web.stanford.edu/~boyd/cvxbook/
• 西瓜书 3.3 节引用它来说明"凸函数可以用梯度下降/牛顿法求最优"。
• 定位：工具书。只需要知道"凸 = 没有局部最优陷阱"这一条就够用了。

---

原始论文（只在想追根溯源时看）

• Fisher, R. A. (1936). The use of multiple measurements in taxonomic problems. — LDA 的起点。
• Dietterich & Bakiri (1995). Solving multiclass learning problems via error-correcting output codes. — ECOC 的原始论文。
• Chawla et al. (2002). SMOTE: Synthetic Minority Over-sampling Technique. — 过采样代表算法。
• Liu, Wu & Zhou (2009). Exploratory Undersampling for Class-Imbalance Learning. — EasyEnsemble。
• Tibshirani (1996). Regression shrinkage and selection via the LASSO. — 3.7 提到的稀疏性。
• Elkan (2001). The foundations of cost-sensitive learning. — 再缩放为什么在二分类下最优。

---

社区（用于"把学到的东西拿出去检验"）

• Datawhale（南瓜书背后的组织）：https://github.com/datawhalechina — 有组队学习、开源教程，适合找同伴一起过西瓜书。
• Stack Exchange / Cross Validated：https://stats.stackexchange.com — 问"为什么 LDA 假设协方差相同"这类问题时，这里的回答质量最高。
• Kaggle Learn / Kaggle 讨论区：适合把第 3 章的模型拿去真实数据上跑。
• V2EX / 知乎的机器学习话题：中文提问门槛低，但答案质量参差，建议只用来找思路，结论回 Cross Validated 核对。