深度学习
这门课学什么
课堂讲深度学习直觉、项目策略、对抗样本、可解释性和职业建议。技术细节部分配套 Coursera 的 Deep Learning Specialization 视频。公开的是 2018 年的 10 讲课堂视频。
内容摘要
CS230 是吴恩达和 Kian Katanforoosh 合开的深度学习课,采用翻转课堂。学生课前在 Coursera 看 Deep Learning Specialization 的视频,做测验和编程作业。课堂不重复讲公式,而是讲直觉、案例和项目方法。公开的是 2018 年秋季的 10 讲课堂录像。
技术内容沿 Coursera 的 5 门子课推进:神经网络基础,改进深度网络(正则化、优化、调参),结构化机器学习项目,卷积神经网络,序列模型。课堂讲次与之配合:第 2 讲用人脸验证和图像生成案例训练建模直觉,第 3 讲和第 6 讲讲项目全流程和项目策略,第 4 讲讲对抗样本和 GAN,第 7 讲讲可解释性,第 9 讲讲深度强化学习。
编程作业来自 Coursera 专项课程。学生先用 NumPy 手写神经网络,再实现残差网络、YOLO 目标检测、神经风格迁移、LSTM 音乐生成和带注意力的机器翻译。学生还要组队完成一个学期项目,参加期中考试和海报展示。
这门课的特色是工程判断。第 5 讲用 3 个医疗 AI 案例讲数据和评估,第 8 讲吴恩达讲怎样读论文和规划职业,第 10 讲用聊天机器人案例收尾。学完后,学生能独立设计、训练和调试深度学习模型,并知道项目卡住时先查哪里。
吴恩达讲课语速平缓,常让学生先回答“如果你负责这个项目,下一步做什么”,再给出他的做法。建议把课堂录像和 Coursera 视频配合看,因为课堂默认学生已经学过对应模块。
为什么值得学
这门课教你怎样把深度学习项目做成,而不只是推导反向传播。吴恩达在课上分享了大量实战经验。
课程信息
- 学校
- 斯坦福(Stanford)
- 课程号
- CS230
- 讲师
- 吴恩达(Andrew Ng)、Kian Katanforoosh
- 学期
- Autumn 2018
- 平台
- 课程官网
- 费用
- 免费
- 难度
- 中级
- 学时
- 10 讲视频(2018 版)
- 先修
- 需要 CS229 程度的机器学习基础和 Python。
- 材料
- 视频、幻灯片、作业
- 许可证
- 未注明
课程大纲 · 共 10 节
大纲依据:Autumn 2018 YouTube 播放列表(10 讲课堂录像)(查看原始页面 ↗)
- 1课程介绍与安排Class Introduction & Logistics
说明深度学习兴起的原因和课程的翻转课堂形式。介绍评分方式、编程作业和往届项目示例。
- 2深度学习直觉Deep Learning Intuition
用人脸验证、人脸聚类和图像生成 3 个案例,练习怎样选数据、网络结构和损失函数。
- 3深度学习项目全流程Full-Cycle Deep Learning Projects
以语音唤醒设备为例,走一遍从选题、收集数据、训练到部署的步骤。讨论怎样判断项目是否可行。
- 4对抗攻击与生成对抗网络Adversarial Attacks / GANs
前半讲对抗样本的生成方法(如快速梯度符号法)和防御思路。后半讲 GAN 的训练过程、训练技巧和图像翻译应用。
- 5人工智能与医疗AI + Healthcare
用心律失常检测、肺炎 X 光诊断和膝关节 MRI 3 个案例,讲医疗 AI 的建模与评估。讨论数据增强、迁移学习和人机协作。
- 6深度学习项目策略Deep Learning Project Strategy
通过一个案例练习项目决策:先做哪个实验,怎样增强和合成数据,怎样安排迭代流程。
- 7神经网络可解释性Interpretability of Neural Network
介绍显著图、遮挡敏感性、类激活图和梯度上升可视化。用反卷积观察中间层学到的特征。
- 8职业建议与阅读论文Career Advice / Reading Research Papers
吴恩达介绍系统阅读一个领域论文的方法。之后讲怎样选择工作和团队,怎样安排长期学习。
- 9深度强化学习Deep Reinforcement Learning
从围棋和机器人例子引入强化学习。推导深度 Q 网络(DQN),讲经验回放和探索与利用的权衡。
- 10聊天机器人与课程总结Chatbots / Closing Remarks
用聊天机器人案例讲意图识别、槽位抽取和对话评估。最后给出项目建议和后续学习方向。
斯坦福的其他AI课
- 机器学习 · Machine Learning
- 面向计算机视觉的深度学习 · Deep Learning for Computer Vision
- 基于深度学习的自然语言处理 · Natural Language Processing with Deep Learning
- 图机器学习 · Machine Learning with Graphs
- 人工智能:原理与技术 · Artificial Intelligence: Principles and Techniques
- 强化学习 · Reinforcement Learning