流匹配与扩散模型导论
这门课学什么
这门短课从随机微分方程出发,推导流匹配和扩散模型,最后做出一个图像生成器。课程以讲义为主线(讲义也在 arXiv 上),另有幻灯片和 3 个 Colab 实验。
内容摘要
这门课是 MIT 寒假学期(IAP)的短课,从第一性原理推导流匹配(flow matching)和扩散模型。主线是:先用常微分方程和随机微分方程描述“从噪声走到数据”的过程,再构造训练目标,最后训练出一个能用的图像生成器。课程以一份自成体系的讲义为骨架,讲义也发布在 arXiv 上。
前 4 讲是核心,分 3 步。第 1 步(第 1 讲)讲流模型和扩散模型的定义,以及怎样用常微分方程和随机微分方程采样。第 2 步(第 2–3 讲)讲训练:先用条件概率路径构造边缘向量场和分数函数,再推导流匹配和分数匹配的训练损失。第 3 步(第 4 讲)讲工程落地:引导(guidance)、条件生成、网络架构和当前主流模型。后 2 讲是嘉宾讲座,分别讲扩散模型在机器人和蛋白质设计上的应用。
课程有 3 个 Colab 实验,一步步带你从零搭出模型。实验 1 模拟随机微分方程。实验 2 实现流匹配和分数匹配。实验 3 训练一个条件图像生成模型。官网公开了实验答案。
学完后,你能从数学上说清扩散模型和流匹配的关系,能读懂主流图像、视频生成模型论文的方法部分,也能自己写出一个小型生成模型。
讲课风格重推导,幻灯片只做可视化辅助,完整论证在讲义里。课程要求线性代数、实分析、概率基础,并会用 PyTorch。它只讲连续数据,不讲大语言模型。
为什么值得学
它从第一性原理讲清楚图像和视频生成模型背后的数学。讲义在研究圈传播很广。
课程信息
- 学校
- 麻省理工(MIT)
- 课程号
- 6.S184
- 讲师
- 彼得·霍尔德里斯(Peter Holderrieth)、Ezra Erives
- 学期
- IAP 2025
- 平台
- 课程官网
- 费用
- 免费
- 难度
- 高级
- 学时
- 6 段讲座视频 + 3 个 Colab 实验
- 先修
- 学过概率、多元微积分和深度学习基础。
- 材料
- 视频、讲义、幻灯片、代码
- 许可证
- CC BY-NC-SA
课程大纲 · 共 9 节
大纲依据:IAP 2025 课程官网讲座与实验列表(6 讲 + 3 个实验)(查看原始页面 ↗)
- 1流模型与扩散模型Flow and Diffusion Models
介绍生成模型的目标,用常微分方程和随机微分方程定义流模型与扩散模型,并讲怎样采样。
- 2构造训练目标Constructing a Training Target
从条件概率路径出发,借助连续性方程和 Fokker–Planck 方程,得到边缘向量场和边缘分数函数。
- 3训练流模型与扩散模型Training Flow and Diffusion Models
推导流匹配和分数匹配的损失函数,并把多种扩散模型放进同一框架比较。
- 4搭建图像生成器Building an Image Generator
讲无分类器引导和条件生成、常用网络架构,并梳理当前主流图像和视频模型。
- 5生成式机器人(嘉宾:Benjamin Burchfiel)Generative Robotics (guest lecture by Benjamin Burchfiel)
丰田研究院的嘉宾讲大型行为模型,以及扩散模型怎样生成机器人动作。
- 6生成式蛋白质设计(嘉宾:Jason Yim)Generative Protein Design (guest lecture by Jason Yim)
嘉宾讲怎样用流匹配生成新的蛋白质结构。
- 实验 1实验 1:使用随机微分方程Lab 1: Working with SDEs
编程模拟随机微分方程,观察噪声怎样驱动样本分布变化。
- 实验 2实验 2:流匹配与分数匹配Lab 2: Flow Matching and Score Matching
在简单分布上实现并训练流匹配和分数匹配模型。
- 实验 3实验 3:条件图像生成Lab 3: Conditional Image Generation
训练一个带引导的条件图像生成模型。