深度学习实战
这门课学什么
这是 MIT 斯隆商学院的深度学习课，以写代码为主。学员用 Keras 处理表格、图像和文本数据，再学 Transformer 和大语言模型。课程有讲座视频、讲义、作业和代码。
内容摘要
这是 MIT 斯隆商学院开给商科和数据分析学生的深度学习课，半学期共 12 次课。主线是先从零理解神经网络，再按数据类型展开：表格、图像、文本，最后到生成式 AI。每个主题都从一个业务问题出发，再落到代码。
第 1–2 讲讲神经网络的结构和训练方法，并引入 Keras/TensorFlow。第 3–4 讲讲计算机视觉：先从零搭卷积神经网络，再用迁移学习和 HuggingFace 上的预训练模型。第 5–8 讲讲自然语言处理，从词袋模型讲到嵌入和 Transformer。第 9–11 讲讲生成式 AI：大语言模型、检索增强生成（RAG）、参数高效微调和文生图模型。
作业有 2 次编程作业，各占 25%。期末项目占 40%，4 人一组，要从业务和技术两个角度定义问题，先交 1 页提案，最后把代码公开到 GitHub 并做展示。自己收集数据集的团队有加分。课堂参与占 10%。
学完后，你能用 Keras 为图像和文本任务搭建并训练模型，能在预训练模型上做微调，并能判断一个业务问题适合用哪类深度学习方法。课程教材是 Chollet 的《Deep Learning with Python》第 2 版。
讲课节奏快，概念讲完立刻写代码演示。讲解重直觉，少用数学推导，适合产品经理和数据分析师。
为什么值得学
它教非专业人士快速搭建和评估模型。适合产品经理和数据分析师。
课程信息
- 学校
- 麻省理工（MIT）
- 课程号
- 15.773
- 讲师
- 拉马·拉马克里希南（Rama Ramakrishnan）
- 学期
- Spring 2024
- 平台
- MIT OpenCourseWare
- 费用
- 免费
- 难度
- 中级
- 学时
- 11 段视频
- 先修
- 会 Python，懂训练集、验证集、过拟合这些机器学习基础概念。
- 材料
- 视频、讲义、作业、代码
- 许可证
- CC BY-NC-SA 4.0
课程大纲 · 共 12 节
大纲依据：Spring 2024 OCW Schedule 讲次列表（查看原始页面 ↗）
- 1神经网络与深度学习导论；训练深度网络Introduction to neural networks and deep learning; training deep NNs
讲层、激活函数和网络结构，再讲损失函数、梯度下降和正则化。
- 2训练深度网络（续）；Keras/TensorFlow 入门；表格数据应用Training deep NNs (continued); introduction to Keras/Tensorflow; application to tabular data
继续讲训练，介绍 Keras 的张量和函数式 API，并在表格数据上搭出第一个模型。
- 3计算机视觉：从零搭建卷积神经网络Deep learning for computer vision—building convolutional neural networks from scratch
讲卷积和池化，从零训练一个图像分类器。
- 4计算机视觉：迁移学习与微调；HuggingFace 入门Deep learning for computer vision—transfer learning and fine-tuning; introduction to HuggingFace
讲怎样在预训练模型上微调，以及怎样用 HuggingFace 调用现成模型。
- 5自然语言处理：基础Deep learning for natural language—the basics
讲分词、n 元语法和词袋模型。
- 6自然语言处理：嵌入Deep learning for natural language—embeddings
讲词嵌入怎样把词表示成向量，以及怎样在模型中使用嵌入。
- 7自然语言处理：TransformerDeep learning for natural language—transformers
讲自注意力机制和 Transformer 结构。
- 8自然语言处理：Transformer 与自监督学习Deep learning for natural language—transformers, self-supervised learning
继续讲 Transformer，并讲自监督学习怎样利用无标注文本预训练模型。
- 9生成式 AI：大语言模型与检索增强生成Generative AI—large language models (LLMs) and retrieval augmented generation (RAG)
讲大语言模型怎样构建，以及用 RAG 让模型使用企业自己的资料。
- 10生成式 AI：参数高效微调Generative AI—adapting LLMs with parameter-efficient fine-tuning
讲只训练少量参数就让大模型适应特定业务的方法。
- 11生成式 AI：文生图模型Generative AI—text-to-image models
讲文本生成图像模型的原理和用法。
- 12项目展示Project presentations
各小组展示期末项目。