人工智能:原理与技术
这门课学什么
课程按建模、推断、学习的框架讲人工智能:搜索、马尔可夫决策过程、博弈、约束满足、贝叶斯网络和逻辑。每个主题配 Python 编程作业。
内容摘要
CS221 是斯坦福的人工智能总论课。2019 年秋季版由 Percy Liang 和 Dorsa Sadigh 主讲,公开 19 讲。课程用“建模—推断—学习”3 步框架组织全部内容:先把现实问题写成数学模型,再设计算法求解,最后从数据中学参数。
课程按模型从简单到复杂推进。机器学习部分(3 讲)讲线性分类器、随机梯度下降、特征、神经网络、泛化和 K 均值。之后是 3 类基于状态的模型:搜索(动态规划、一致代价搜索、A*),马尔可夫决策过程(值迭代、强化学习),博弈(极小极大、α-β 剪枝、TD 学习、博弈论)。
第 3 部分是基于变量的模型:因子图与约束满足问题,贝叶斯网络的推断(前向—后向、粒子滤波、吉布斯采样)和参数学习(最大似然、EM)。第 4 部分是逻辑:命题逻辑和一阶逻辑。最后 2 讲讲深度学习并总结全课。
作业每周一次,共 8 次,每次围绕一个应用:数学基础,情感分类,文本重建(搜索),21 点(MDP),吃豆人(博弈),课程排期(约束满足),车辆跟踪(贝叶斯网络),语言与逻辑。作业占 60%,考试占 20%,团队项目占 20%。
学完后,学生能把一个新问题归到合适的模型类型,并选对求解算法。Percy Liang 讲课逻辑严密,常在课上现场写 Python 代码演示算法。
为什么值得学
这是斯坦福的人工智能总论课。它讲的经典方法是现代机器学习的底座。
课程信息
- 学校
- 斯坦福(Stanford)
- 课程号
- CS221
- 讲师
- Percy Liang、Dorsa Sadigh
- 学期
- Autumn 2019
- 平台
- 课程官网
- 费用
- 免费
- 难度
- 中级
- 先修
- 需要编程能力、离散数学、概率和线性代数基础。
- 材料
- 视频、幻灯片、作业、代码
- 许可证
- 未注明
课程大纲 · 共 19 节
大纲依据:Autumn 2019 YouTube 播放列表(19 讲),对照课程官网 events.js 中的课程表(查看原始页面 ↗)
- 1课程概览Overview
介绍人工智能的发展和课程的建模—推断—学习框架。用优化问题演示动态规划和梯度下降。
- 2机器学习 1:线性分类器与随机梯度下降Machine Learning 1 - Linear Classifiers, SGD
讲线性预测器、损失函数和损失最小化。推导随机梯度下降。
- 3机器学习 2:特征与神经网络Machine Learning 2 - Features, Neural Networks
讲特征模板和非线性特征。介绍神经网络、反向传播和最近邻方法。
- 4机器学习 3:泛化与 K 均值Machine Learning 3 - Generalization, K-means
讲过拟合、验证集和超参数选择。介绍无监督学习和 K 均值聚类。
- 5搜索 1:动态规划与一致代价搜索Search 1 - Dynamic Programming, Uniform Cost Search
把问题写成状态空间上的路径搜索。讲树搜索、动态规划和一致代价搜索。
- 6搜索 2:A*Search 2 - A*
讲 A* 搜索和一致启发函数。用松弛问题构造启发函数。
- 7马尔可夫决策过程 1:值迭代Markov Decision Processes 1 - Value Iteration
讲随机环境下的决策建模。介绍策略评估、策略迭代和值迭代。
- 8马尔可夫决策过程 2:强化学习Markov Decision Processes 2 - Reinforcement Learning
在转移概率未知时从经验中学习。讲蒙特卡洛方法、SARSA、Q 学习和探索策略。
- 9博弈 1:极小极大与 α-β 剪枝Game Playing 1 - Minimax, Alpha-beta Pruning
讲双人零和博弈的建模。介绍极小极大搜索、评估函数和 α-β 剪枝。
- 10博弈 2:TD 学习与博弈论Game Playing 2 - TD Learning, Game Theory
用时序差分(TD)学习训练评估函数。介绍同时行动博弈、纳什均衡和非零和博弈。
- 11因子图 1:约束满足问题Factor Graphs 1 - Constraint Satisfaction Problems
用因子图表示约束满足问题。讲回溯搜索、动态变量排序和弧一致性。
- 12因子图 2:条件独立Factor Graphs 2 - Conditional Independence
讲束搜索和局部搜索。介绍条件独立和变量消除。
- 13贝叶斯网络 1:推断Bayesian Networks 1 - Inference
讲贝叶斯网络的定义和概率推断。介绍隐马尔可夫模型。
- 14贝叶斯网络 2:前向—后向算法Bayesian Networks 2 - Forward-Backward
讲隐马尔可夫模型的前向—后向算法。介绍粒子滤波和吉布斯采样。
- 15贝叶斯网络 3:最大似然Bayesian Networks 3 - Maximum Likelihood
讲从完整数据估计参数和拉普拉斯平滑。用 EM 算法处理含隐变量的数据。
- 16逻辑 1:命题逻辑Logic 1 - Propositional Logic
区分语法与语义。讲命题逻辑、推理规则和 Horn 子句。
- 17逻辑 2:一阶逻辑Logic 2 - First-order Logic
讲一阶逻辑的表达能力。介绍归结(resolution)推理。
- 18深度学习Deep Learning
概述自编码器、卷积神经网络和循环神经网络。
- 19课程总结Conclusion
回顾全课的模型类型。讨论人工智能的未来方向。
斯坦福的其他AI课
- 机器学习 · Machine Learning
- 深度学习 · Deep Learning
- 面向计算机视觉的深度学习 · Deep Learning for Computer Vision
- 基于深度学习的自然语言处理 · Natural Language Processing with Deep Learning
- 图机器学习 · Machine Learning with Graphs
- 强化学习 · Reinforcement Learning