概率论(Stat 110)
这门课学什么
这是一门完整的本科概率论。内容有计数、条件概率、随机变量、期望、常见离散与连续分布、联合分布、极限定理、马尔可夫链。讲师用“故事证明”和大量例题讲解。
内容摘要
Stat 110 是哈佛本科的概率论课,由约瑟夫·布利茨斯坦(Joseph K. Blitzstein)主讲。主线是把概率当成一门处理不确定性的语言。课程反复强调 2 个方法:用“故事”理解分布,用“条件化”拆解难题。
课程分 4 个阶段。第 1 阶段讲计数、概率公理和条件概率,用生日问题、蒙提霍尔问题和辛普森悖论训练直觉。第 2 阶段讲随机变量和期望,介绍二项、泊松、均匀、正态、指数这几类核心分布,以及指示变量和线性性。第 3 阶段讲矩母函数、联合分布、协方差、变量变换、Beta 和 Gamma 分布,以及条件期望。第 4 阶段讲不等式、大数定律、中心极限定理和马尔可夫链。
课堂录像来自 2011 年秋季学期,共 34 讲,中间有 1 讲期中复习。配套教材是布利茨斯坦和黄杰西卡(Jessica Hwang)合著的《Introduction to Probability》,有免费在线版。edX 版 STAT110x 把内容整理成 7 个单元,每单元有练习题和计分作业,练习按完成度给分,作业按正确率给分。前置要求是代数;第 4–6 单元要求单变量微积分;第 7 单元要求懂矩阵。
学完以后,学生能独立建立概率模型,能用条件概率和期望解决复杂问题,并为统计推断、随机过程、机器学习打好基础。
布利茨斯坦讲课以板书推导为主。他喜欢先讲一个故事,再用故事证明公式,并常把一个结论推广到多个例子。课程题目难度高,但每题都有解题思路可循。
为什么值得学
布利茨斯坦用讲故事的方式讲概率,直观好懂。讲座、练习题、配套教材是学统计和机器学习的标准免费入口。
课程信息
- 学校
- 哈佛(Harvard)
- 课程号
- Stat 110
- 讲师
- 约瑟夫·布利茨斯坦(Joseph K. Blitzstein)
- 学期
- Fall 2011 (videos); edX self-paced
- 平台
- edX + YouTube
- 费用
- 免费
- 难度
- 中级
- 学时
- edX 版每周 5–10 小时;YouTube 为整学期讲座录像
- 先修
- 学过单变量微积分;会一点多元微积分更好。
- 材料
- 视频、讲义、作业、考试、教材
- 许可证
- 未注明
课程大纲 · 共 20 节
大纲依据:YouTube 官方播放列表 Fall 2011 讲座 34 讲,按主题合并;对照 edX STAT110x 课程地图的 7 个单元(查看原始页面 ↗)
- 1–2概率与计数;故事证明与概率公理Probability and Counting; Story Proofs, Axioms of Probability
从朴素概率定义和乘法原理出发,讲排列组合与有放回抽样,再用讲故事的方法证明组合恒等式,并给出概率公理。
- 3生日问题与概率性质Birthday Problem, Properties of Probability
解生日问题,推出容斥原理,并用它解配对问题。
- 4–6条件概率、全概率公式、蒙提霍尔与辛普森悖论Conditional Probability; Law of Total Probability; Monty Hall, Simpson's Paradox
讲条件概率、贝叶斯公式、独立性和全概率公式,并用蒙提霍尔问题和辛普森悖论检验直觉。
- 7赌徒破产与随机变量Gambler's Ruin and Random Variables
用差分方程解赌徒破产问题,再正式引入随机变量的定义。
- 8随机变量及其分布Random Variables and Their Distributions
讲概率质量函数和累积分布函数,介绍伯努利、二项、超几何分布。
- 9–10期望、指示变量与线性性Expectation, Indicator Random Variables, Linearity
讲期望的定义和线性性,用指示变量计算复杂计数问题的期望,介绍几何分布和负二项分布。
- 11泊松分布The Poisson Distribution
讲泊松分布的性质,以及它怎样近似“大量小概率事件”的计数。
- 12–14连续分布、均匀分布、正态分布与 LOTUSDiscrete vs. Continuous, the Uniform; Normal Distribution; Location, Scale, and LOTUS
从离散过渡到连续,讲概率密度、均匀分布及其通用性、正态分布、平移伸缩变换,以及无意识统计学家法则(LOTUS)。
- 15期中复习Midterm Review
通过例题回顾前半学期的主要方法。
- 16–18指数分布与矩母函数Exponential Distribution; Moment Generating Functions
讲指数分布的无记忆性,再引入矩母函数,用它求矩并识别分布。
- 19–20联合分布、多项分布与柯西分布Joint, Conditional, and Marginal Distributions; Multinomial and Cauchy
讲联合分布、边缘分布和条件分布,介绍多项分布,并用柯西分布展示期望不存在的情况。
- 21协方差与相关系数Covariance and Correlation
讲协方差和相关系数的定义与性质,用它们计算和的方差。
- 22变量变换与卷积Transformations and Convolutions
讲随机变量函数的分布、雅可比变换,以及用卷积求独立变量之和的分布。
- 23–24Beta 分布、Gamma 分布与泊松过程Beta Distribution; Gamma Distribution and Poisson Process
用故事引入 Beta 和 Gamma 分布,讲它们与泊松过程的联系,以及“银行—邮局”故事。
- 25–27次序统计量与条件期望Order Statistics and Conditional Expectation
讲次序统计量,然后分 3 讲展开条件期望,包括给定事件和给定随机变量的条件期望,以及亚当定律和夏娃定律。
- 28概率不等式Inequalities
讲柯西—施瓦茨、詹森、马尔可夫、切比雪夫 4 个不等式。
- 29大数定律与中心极限定理Law of Large Numbers and Central Limit Theorem
讲大数定律和中心极限定理,以及用正态分布近似二项分布。
- 30卡方分布、t 分布与多元正态分布Chi-Square, Student-t, Multivariate Normal
介绍统计推断常用的卡方分布、t 分布和多元正态分布。
- 31–33马尔可夫链Markov Chains
讲马尔可夫链的转移矩阵、状态分类、平稳分布和可逆性,并用网络上的随机游走做例子。
- 34展望A Look Ahead
最后一讲回顾全课,并介绍后续可以学的统计和概率方向。
哈佛的其他经典课
- CS50 计算机科学导论 · CS50's Introduction to Computer Science
- CS50 Python 编程导论 · CS50's Introduction to Programming with Python
- 公正:该如何做是好? · Justice: What's the Right Thing to Do?
- 幸福之路:中国哲学教我们如何过好生活 · The Path to Happiness: What Chinese Philosophy Teaches Us about the Good Life
- ChinaX 中国通史系列(第 1 部分:从圣王到孔子) · ChinaX: China's Political and Intellectual Foundations: From Sage Kings to Confucius (Part 1 of the China series)
- 莎士比亚的《哈姆雷特》:鬼魂 · Shakespeare's Hamlet: The Ghost