可信深度学习

Trustworthy Deep LearningCPSC 4710/5710耶鲁Fall 2025免费

可解释 AI对抗鲁棒性隐私与机器遗忘公平性大模型可信性

这门课学什么

这门研讨式研究生课讲怎样让深度模型可信。内容包括可解释性、LLM 机制可解释性、对抗攻击与防御、形式验证、隐私、机器遗忘、联邦学习、公平性和模型效率。网站可下载 16 份幻灯片、4 次书面作业和 3 次编程作业。

内容摘要

这门研讨式研究生课讲怎样让深度学习模型可信，讲师是应智韬（Rex Ying）。Fall 2025 共 26 次课，每次 75 分钟。课程把“可信”拆成 5 个维度：可解释性、鲁棒性、隐私、公平性和效率。多数维度先讲通用深度模型，再单独讲大语言模型（LLM）上的同类问题。

前 3 讲补背景：可信 AI 的定义、CNN 与 RNN、Transformer 与 LLM。第 4–8 讲讲可解释性：局部解释、全局解释、解释方法的评估，以及 LLM 可解释性。第 9–15 讲讲鲁棒性：规避攻击、投毒攻击、探索性攻击及其防御，形式验证与鲁棒强化学习，最后是 LLM 的鲁棒性。

第 16–22 讲覆盖其余维度：差分隐私、机器遗忘（machine unlearning）、联邦学习、LLM 隐私、算法公平性、LLM 公平性和效率。学期末有 2 次客座讲座，其中 1 次由耶鲁的 Arman Cohan 讲 LLM 的安全与隐私。最后 1 次课是闭卷考试。

作业共 7 次：4 次书面作业和 3 次编程作业，依次覆盖可解释性、对抗鲁棒性与验证、隐私与公平性。课程项目占 50%，包括课堂讨论、提案、课堂黑客松、中期检查和期末报告。学员必须已经掌握深度学习并会用 PyTorch。学完后学员能对一个模型做解释、攻击和隐私评估，并能提出改进方案。

为什么值得学

课程把 AI 安全与可靠性的主要研究方向放进一份大纲。幻灯片全部公开，并附关键论文清单。

课程信息

学校: 耶鲁（Yale）
课程号: CPSC 4710/5710
讲师: 应智韬（Rex Ying）
学期: Fall 2025
平台: 课程官网
费用: 免费
难度: 高级
学时: 约 25 讲 × 75 分钟；公开 16 份幻灯片
先修: 需要数据结构、离散数学和一门机器学习或深度学习课（S&DS 265、CPSC 381 或 CPSC 452），并会用 PyTorch。
材料: 幻灯片、作业、代码
许可证: 未注明

去课程主页 ↗

课程是英文的。本页的介绍、摘要和大纲由极客教育原创撰写，讲次标题为中文意译。开课时间、收费和链接以官方页面为准。

课程大纲 · 共 26 节

大纲依据：Fall 2025 课程网站 Syllabus 页源码（26 次课，不含无课日）（查看原始页面 ↗）

1
可信 AI 导论Introduction to Trustworthy AI
定义可信 AI 的维度，介绍课程结构。阅读材料讨论 AI 的可持续性。
2
深度学习基础、CNN 与 RNNDeep Learning Basics, CNNs, and RNNs
快速复习深度学习基础和两类经典网络结构。
3
Transformer 与大语言模型Transformers and Large Language Models (LLMs)
介绍 Transformer 结构和大语言模型，阅读 TrustLLM 综述。发布 HW1。
4
神经网络可解释性Explainability of Neural Networks (XAI)
介绍可解释 AI 的目标和方法分类，阅读积分梯度（Integrated Gradients）论文。
5
局部可解释性Local Explainability
讲解释单个预测的方法，例如基于梯度的归因和基于扰动的方法。
6
可解释性评估Explainability Evaluation
讲怎样判断一个解释是否可靠，例如忠实度和稳定性。
7
全局可解释性Global Explainability
讲解释模型整体行为的方法，而不只解释单个预测。
8
LLM 可解释性LLM Interpretability
讲大语言模型的可解释性，分析模型的内部表示和计算机制。
9
对抗攻击导论Introduction to Adversarial Attacks
介绍对抗样本和攻击的分类：攻击发生在训练阶段还是推理阶段，攻击者掌握多少模型信息。
10
规避攻击与防御Evasion Attacks and Defenses
讲推理阶段的对抗样本攻击，以及对抗训练等防御方法。
11
课堂工作坊In-class work session
学生在课上推进项目，课程提供 GPU 使用说明。
12
投毒攻击与防御Poisoning Attacks and Defenses
讲在训练数据中植入恶意样本或后门的攻击，以及检测和防御方法。
13
探索性攻击与防御Exploratory Attacks and Defenses
讲通过查询窃取模型或推断训练数据的攻击，以及防御方法。
14
形式验证与鲁棒强化学习Verification and Robust Reinforcement Learning
从形式验证角度证明网络在扰动范围内的鲁棒性，并讨论鲁棒强化学习。本讲通过 Zoom 授课。
15
LLM 鲁棒性LLM Robustness
讲大语言模型的越狱和通用对抗后缀攻击，以及防御思路。
16
差分隐私Differential Privacy
讲差分隐私的定义，以及在模型训练中实现差分隐私的方法。
17
机器遗忘Machine Unlearning
讲怎样让训练好的模型“忘掉”指定数据，而不必从头重训。
18
联邦学习Federated Learning
讲数据留在本地、只交换模型更新的分布式训练方式，以及它的隐私与安全问题。
19
LLM 隐私LLM Privacy
讲大语言模型记住并泄露训练数据的风险，以及防护方法。
20
机器学习中的算法公平性Algorithmic Fairness in ML
讲公平性的数学定义、偏差来源和缓解方法。
21
LLM 公平性Fairness in LLMs
讲大语言模型输出中的社会偏见，以及评测和缓解方法。
22
效率Efficiency
讲数据蒸馏等提升训练和推理效率的方法。
23
客座讲座：Arman CohanGuest Lecture by Prof. Arman Cohan on Security and Privacy of LLMs
耶鲁的 Arman Cohan 教授讲 LLM 的安全与隐私。
24
复习与备考Revise and Prepare for Exam
复习全学期内容，准备课堂考试。
25
客座讲座Guest Lecture
外请嘉宾讲座，课程网站没有写题目。
26
课堂考试Exam
闭卷考试。试卷提供所需知识，不要求背复杂公式。

耶鲁的其他AI课

人工智能 · Artificial Intelligence
自动化决策系统 · Automated Decision Systems
图结构数据上的深度学习 · Deep Learning on Graph-Structured Data
游戏中的计算智能 · Computational Intelligence for Games

← 返回全部AI课　·　← 只看耶鲁