Python 机器学习与人工智能
这门课学什么
这门课接在《Python 数据科学导论》之后。主题是树模型：决策树、Bagging、随机森林、Boosting、AdaBoost。每个主题都有 Python 笔记本练习。
内容摘要
这门课是《Python 数据科学导论》的续篇，edX 课号 CS109xa，讲师是 Pavlos Protopapas。整门课围绕一条主线：从一棵决策树出发，逐步走到集成学习。大纲共 5 个模块：决策树、Bagging、随机森林、Boosting、AdaBoost。
第 1 个模块讲决策树怎样按特征切分数据，以及树太深时为什么会过拟合。第 2、3 个模块讲降低方差的思路：Bagging 在多个自助样本上各训练一棵树，再合并结果；随机森林在此基础上随机选特征，让各棵树的差异更大。第 4、5 个模块讲降低偏差的思路：Boosting 让后一个模型修正前一个模型的错误，AdaBoost 是这一思路的经典算法。课程介绍还提到梯度提升（gradient boosting）。
课程用真实案例和样例数据集练习，要求学员评估模型效果，并识别数据偏差、欠拟合和过拟合。成绩的 90% 来自 Ed 平台上的代码作业，10% 来自 edX 上的阅读检查题，总分 60% 及格。参考教材是免费的《An Introduction to Statistical Learning》第 2 版。
学员需要先会线性回归、多项式回归、kNN、偏差与方差、多分类逻辑回归和自助法。学完后学员能用 Python 训练和调优树模型与集成模型，并能说明集成方法为什么在表格数据上常常更好。
为什么值得学
集成学习是工业界处理表格数据的首选方法。这门课讲得清楚，实践性强。
课程信息
- 学校
- 哈佛（Harvard）
- 讲师
- 帕夫洛斯·普罗托帕帕斯（Pavlos Protopapas）
- 学期
- self-paced
- 平台
- edX
- 费用
- 免费旁听
- 难度
- 中级
- 学时
- 6 周 × 每周 4–5 小时
- 先修
- 学过《Python 数据科学导论》，或懂回归、kNN、偏差与方差。
- 材料
- 视频、作业、代码
- 许可证
- 未注明
课程大纲 · 共 5 节
大纲依据：edX 课程信息页 Course Outline（5 个模块，3T2023 开课版本）（查看原始页面 ↗）
- 1决策树Decision Trees
讲决策树怎样按特征递归切分数据，怎样控制树的深度，以及树太深时为什么会过拟合。
- 2Bagging（自助聚合）Bagging
在多个自助样本上分别训练决策树，再合并预测结果，降低单棵树的方差。
- 3随机森林Random Forests
在 Bagging 的基础上，每次分裂只从随机抽取的部分特征中选择，降低树之间的相关性。
- 4Boosting（提升法）Boosting
按顺序训练一串弱学习器，每一步重点修正前一步的错误，降低模型偏差。
- 5AdaBoostAdaBoost
讲 AdaBoost 怎样提高分错样本的权重，并把多个弱分类器加权组合成强分类器。
哈佛的其他AI课
- CS50 人工智能导论（Python） · CS50's Introduction to Artificial Intelligence with Python
- 哈佛数据科学专业证书系列（9 门课） · Professional Certificate in Data Science (HarvardX)
- Python 数据科学导论 · Introduction to Data Science with Python
- TinyML 基础（微型机器学习系列） · Fundamentals of TinyML (Tiny Machine Learning series)
- 机器学习系统（哈佛 CS249r 开放教材） · Machine Learning Systems (open textbook for Harvard CS249r)
- AI 安全（CS 2881R） · CS 2881R: AI Safety