预测的极限
这门课学什么
一位计算机学者和一位社会学者一起追问:数据够多、算法够好,是否一切都能预测?每个单元配一个领域和一组论文,包括地缘政治、天气、疾病、广告推荐和人生轨迹。官网公开日程和大部分阅读材料。
内容摘要
这门研讨课只追问一个问题:数据够多、算法够强,是否就能预测一切?两位老师一位来自计算机系,一位来自社会学系。课程不教新的预测算法。课程逐个领域检查预测做到了哪一步,又卡在哪里。
课程分 3 个阶段。第 1 阶段打基础:先读统计建模的“两种文化”之争,再看专家预测地缘政治事件的成绩单。第 2 阶段逐个走领域:图像分类、武装冲突、在线广告、推荐系统、社会流行、天气、医疗、传染病和个人人生轨迹。每个领域通常占 2 次课,一次讲理论或模型,一次讲实证检验。第 3 阶段回到隐私、公平和伦理,讨论预测本身是否是合适的政策目标。
中间穿插一次“如何衡量可预测性”的方法课,讲 ROC 曲线、对数评分规则和 R²。这次课把前后各领域的比较统一到同一套指标上。天气单元用洛伦兹吸引子讲混沌,是全课理解“预测上限”的核心例子。
作业偏研究训练。作业 1 让小组围绕 2020 年美国大选设计预测比赛,并在开放科学平台上预注册。作业 2 复现并扩展一篇用随机森林预测内战爆发的论文,同时阅读围绕它的多篇反驳文章。期末项目是 2–3 人小组的研究论文,必须附可复现代码,老师鼓励学生把成果发表。
学完后,你能用统一指标比较不同领域的预测表现。你能分辨“模型不够好”和“问题本身不可预测”。你也能识别交叉验证泄漏这类常见陷阱。课程以读论文和课堂讨论为主,每次课配有预读视频和思考题,适合有统计基础、想做计算社会科学研究的读者。
为什么值得学
畅销书《AI 万金油》(AI Snake Oil)的思路起源于这门课。它教你用证据判断预测类 AI 的真实能力。
课程信息
- 学校
- 普林斯顿(Princeton)
- 课程号
- COS 597E / SOC 555
- 讲师
- 阿尔温德·纳拉亚南(Arvind Narayanan)、马修·萨尔加尼克(Matthew Salganik)
- 学期
- Fall 2020
- 平台
- 课程官网
- 费用
- 免费
- 难度
- 中级
- 学时
- 每周 2 讲 × 80 分钟,约 23 讲
- 先修
- 需要统计和机器学习的入门知识。
- 材料
- 讲义、代码
- 许可证
- 未注明
课程大纲 · 共 24 节
大纲依据:Fall 2020 课程表(Schedule 页,24 次课)(查看原始页面 ↗)
- 1导论Introduction
提出全课问题:更多数据和更好算法能否让一切变得可预测。
- 2背景Background
阅读 Breiman 的“两种文化”与 Hand 对分类器进步的质疑,建立预测与解释的对照框架。
- 3预测地缘政治事件(上)Predicting geopolitical events (part 1)
精读 Tetlock 的专家政治判断研究,学习概率评分、校准度和区分度。
- 4预测地缘政治事件(下)Predicting geopolitical events (part 2)
比较情报预测、预测锦标赛和历史事件预测三种研究设计,讨论简单算法与复杂算法的差距。
- 5计算机视觉与深度神经网络(上)Computer vision and deep neural networks (part 1)
回顾神经网络与深度学习的发展史,作为图像分类单元的技术背景。
- 6计算机视觉(下)Computer vision (part 2)
围绕 ImageNet 数据集和分类器的泛化问题,讨论“苦涩的教训”及其反驳。
- 7武装冲突(上)Armed conflict (part 1)
讨论战争是否藏在误差项里,以及只看显著性做政策判断的风险。
- 8武装冲突(下)Armed conflict (part 2)
围绕随机森林与逻辑回归预测内战的争论,学习交叉验证出错的方式。
- 9在线广告Online ads
看工业界的点击率预测系统,再看广告效果为什么极难测量。
- 10推荐系统与工程极限Recommender systems; engineering limits
讨论协同过滤的评估方法、Netflix 的实践和机器学习系统的技术债。
- 11社会流行(上)Social fads (part 1)
用人工音乐市场实验说明,社会影响会让流行结果天然难以预测。
- 12社会流行(下)Social fads (part 2)
讨论信息级联能否预测,以及搜索数据对消费行为的预测力。
- 13衡量可预测性Measuring predictability
学习 ROC 分析、对数评分规则和 R² 的用法与误用。
- 14天气:洛伦兹吸引子Weather, the Lorenz attractor
用蝴蝶效应和洛伦兹系统解释混沌如何给预测设下理论上限。
- 15天气:实证检验Weather, empirical verification
看数值天气预报几十年来的进步,以及大模型实验测出的可预测时长。
- 16医疗(上)Healthcare (part 1)
比较临床判断与统计模型,讨论可解释模型和深度学习诊断。
- 17医疗(下)Healthcare (part 2)
讨论 AI 自杀预防、AI 与医生对比研究的质量,以及遗传力缺失问题。
- 18传染病模型Disease models
从基本再生数和小世界网络出发,讨论疫情爆发在理论上能预测到什么程度。
- 19传染病实证Disease empirics
以谷歌流感趋势的成败和流感预测竞赛为例,检验疫情预测的实际表现。
- 20人生轨迹的可预测性Predictability of life trajectories
讨论大规模协作挑战赛为何难以预测家庭和儿童的人生结果。
- 21寻找“暗物质”Searching for dark matter
分析访谈材料,寻找数据里没有记录、却决定结果的因素。
- 22隐私与伦理(上)Privacy and ethics (part 1)
看企业监控和数字足迹如何推断出个人的隐私属性。
- 23隐私与伦理(下)Privacy and ethics (part 2)
讨论风险评分中的偏见、公平性指标的不可兼得,以及“干预优先于预测”的主张。
- 24最后一课(主题待定)To be determined (last day of class)
课程表未公布主题;同日提交作业 1 的大选预测结果。
普林斯顿的其他AI课
- 理解大语言模型 · Understanding Large Language Models
- 深入大语言模型 · Deep Dive into Large Language Models
- 自然语言处理 · Natural Language Processing
- 机器学习导论(课程讲义) · Introduction to Machine Learning (Course Notes)
- 数值计算与机器学习的数学基础 · Mathematics for Numerical Computing and Machine Learning
- 深度学习理论 · Theoretical Deep Learning