名校公开课 / 麻省理工 / AI

流匹配与扩散模型导论

Introduction to Flow Matching and Diffusion Models6.S184麻省理工IAP 2025免费
随机微分方程流匹配分数匹配扩散模型图像生成

这门课学什么

这门短课从随机微分方程出发,推导流匹配和扩散模型,最后做出一个图像生成器。课程以讲义为主线(讲义也在 arXiv 上),另有幻灯片和 3 个 Colab 实验。

内容摘要

这门课是 MIT 寒假学期(IAP)的短课,从第一性原理推导流匹配(flow matching)和扩散模型。主线是:先用常微分方程和随机微分方程描述“从噪声走到数据”的过程,再构造训练目标,最后训练出一个能用的图像生成器。课程以一份自成体系的讲义为骨架,讲义也发布在 arXiv 上。

前 4 讲是核心,分 3 步。第 1 步(第 1 讲)讲流模型和扩散模型的定义,以及怎样用常微分方程和随机微分方程采样。第 2 步(第 2–3 讲)讲训练:先用条件概率路径构造边缘向量场和分数函数,再推导流匹配和分数匹配的训练损失。第 3 步(第 4 讲)讲工程落地:引导(guidance)、条件生成、网络架构和当前主流模型。后 2 讲是嘉宾讲座,分别讲扩散模型在机器人和蛋白质设计上的应用。

课程有 3 个 Colab 实验,一步步带你从零搭出模型。实验 1 模拟随机微分方程。实验 2 实现流匹配和分数匹配。实验 3 训练一个条件图像生成模型。官网公开了实验答案。

学完后,你能从数学上说清扩散模型和流匹配的关系,能读懂主流图像、视频生成模型论文的方法部分,也能自己写出一个小型生成模型。

讲课风格重推导,幻灯片只做可视化辅助,完整论证在讲义里。课程要求线性代数、实分析、概率基础,并会用 PyTorch。它只讲连续数据,不讲大语言模型。

为什么值得学

它从第一性原理讲清楚图像和视频生成模型背后的数学。讲义在研究圈传播很广。

课程信息

学校
麻省理工(MIT)
课程号
6.S184
讲师
彼得·霍尔德里斯(Peter Holderrieth)、Ezra Erives
学期
IAP 2025
平台
课程官网
费用
免费
难度
高级
学时
6 段讲座视频 + 3 个 Colab 实验
先修
学过概率、多元微积分和深度学习基础。
材料
视频、讲义、幻灯片、代码
许可证
CC BY-NC-SA
去课程主页 ↗看视频 ↗
课程是英文的。本页的介绍、摘要和大纲由极客教育原创撰写,讲次标题为中文意译。开课时间、收费和链接以官方页面为准。

课程大纲 · 共 9 节

大纲依据:IAP 2025 课程官网讲座与实验列表(6 讲 + 3 个实验)(查看原始页面 ↗)

  1. 1
    流模型与扩散模型Flow and Diffusion Models

    介绍生成模型的目标,用常微分方程和随机微分方程定义流模型与扩散模型,并讲怎样采样。

  2. 2
    构造训练目标Constructing a Training Target

    从条件概率路径出发,借助连续性方程和 Fokker–Planck 方程,得到边缘向量场和边缘分数函数。

  3. 3
    训练流模型与扩散模型Training Flow and Diffusion Models

    推导流匹配和分数匹配的损失函数,并把多种扩散模型放进同一框架比较。

  4. 4
    搭建图像生成器Building an Image Generator

    讲无分类器引导和条件生成、常用网络架构,并梳理当前主流图像和视频模型。

  5. 5
    生成式机器人(嘉宾:Benjamin Burchfiel)Generative Robotics (guest lecture by Benjamin Burchfiel)

    丰田研究院的嘉宾讲大型行为模型,以及扩散模型怎样生成机器人动作。

  6. 6
    生成式蛋白质设计(嘉宾:Jason Yim)Generative Protein Design (guest lecture by Jason Yim)

    嘉宾讲怎样用流匹配生成新的蛋白质结构。

  7. 实验 1
    实验 1:使用随机微分方程Lab 1: Working with SDEs

    编程模拟随机微分方程,观察噪声怎样驱动样本分布变化。

  8. 实验 2
    实验 2:流匹配与分数匹配Lab 2: Flow Matching and Score Matching

    在简单分布上实现并训练流匹配和分数匹配模型。

  9. 实验 3
    实验 3:条件图像生成Lab 3: Conditional Image Generation

    训练一个带引导的条件图像生成模型。

麻省理工的其他AI课