1热身：只看一小块，你能猜出来吗？

每个圆圈只露出一张图的一小块。猜一猜，整张图画的是什么？

你靠的是小线索：一段圆圆的黑边，一只尖耳朵，几粒小黄点。大东西是由小花纹拼起来的。今天这台电脑认图，用的也是这个思路。

2一场看图认东西的大比赛

2009 年，李飞飞带领的团队做了一个巨大的图片库，叫 ImageNet，每张图都标好了答案。大家每年用它办一场比赛，比谁的程序认图最准。

要认的东西	1000 种。光是狗就有上百种。
练习用的图	大约 120 万张。考试用程序没见过的新图。
怎么算对	程序说出 5 个猜测，里面有正确答案就算对。

能猜 5 次，是因为有些东西太像了，比如两种很像的狗。5 个猜测全都不对才算错。错的图占多少，叫“前 5 错误率”，越小越好。

3以前的办法：人来写规则

在电脑眼里，一张图是一大片小方格。每个小方格叫一个像素，只有一种颜色。电脑只看到一堆数字，不知道哪里是耳朵。2012 年以前，主要靠人来想好“该找什么”，比如边缘、角落、纹路。电脑照着人写的步骤去找，再打分。这像一张检查单：

AlexNet 换了思路：不告诉电脑该找什么，让它自己从 120 万张图里学。就像第 1 课的猜字游戏，猜错了就悄悄调整自己。只是这次它猜的是“这张图是什么”。

4卷积：拿小窗口一格一格扫

AlexNet 用很多个小窗口看图。每个小窗口只找一种小花纹。下面这个 3×3 的小窗口，专找“竖线”：

小窗口从左上角开始，一格一格往右挪，一行扫完换下一行。每个位置打一个分。分数高，那里就有竖线。这种“拿小窗口一格一格扫”的做法，叫卷积。用很多层卷积搭起来的程序，叫卷积神经网络。

AlexNet 第一层有 96 种小窗口，每个是 11×11 格。没有人告诉它每个窗口该找什么。窗口里的花纹也是“旋钮”（第 4 课讲过），是它练习时自己调出来的。

第一层扫完，结果交给下一层再扫。一层一层往上，小花纹拼成大东西：

AlexNet 一共 8 层：前 5 层用小窗口扫，后 3 层汇总线索，从 1000 种东西里给出答案。层数多就叫“深”，所以这种办法叫深度学习。

5怎么练出来：2 块显卡和 3 个小窍门

AlexNet 里有大约 6000 万个旋钮。用 120 万张图把它们调好，计算量大得吓人。三位科学家用了 2 块游戏显卡（GPU）。

当时每块显卡只有 3 GB 内存，装不下整个网络。他们把网络劈成两半，每块显卡管一半。2 块显卡一起练了 5 到 6 天。他们还用了 3 个小窍门：

ReLU 开关	每个零件后面装一个简单开关：没信号就关，有信号就原样放过去。学得快好几倍，一次小测试里快了约 6 倍。
Dropout（请假法）	第 3 课讲过。在最后汇总线索的地方，每次随机让一半零件请假，防止死记硬背练习图。
数据增强（一图变多题）	把图左右翻转，随机剪下一大块，或者稍微改改颜色。猫翻过来还是猫，练习题一下子多了很多倍。

6结果：一下子领先一大截

2012 年的比赛，AlexNet 拿了第一名。比较一下“前 5 错误率”：

换成 100 张考试图来想：第二名大约 26 张全猜错，AlexNet 只有大约 15 张。差了大约 11 个百分点，谁也没法装作没看见。

2012 年，3 样东西刚好凑齐：大量带答案的图（ImageNet），够快的显卡，练得动的深网络。之后两三年，研究看图的科学家几乎都改用了深度学习。三位作者里，Hinton 在第 4 课出现过，Sutskever 是第 3 课的作者之一。Sutskever 后来参与创办了做出 ChatGPT 的 OpenAI。

7这和今天有什么关系

今天很多手机相册能搜“猫”“海边”，有的软件拍一下花就能说出花名。这些看图本领，都是沿着 AlexNet 这条路发展来的。第 9 课的网络有 152 层，比它深得多。

今天的聊天 AI 结构和 AlexNet 不一样，但有几样东西传了下来：用显卡训练，用简单开关，练习时请假，让电脑从大量例子里自己学。AlexNet 证明了：网络更大，材料更多，算得更快，电脑就学得更好。

10词语小卡片