1熱身：只看一小塊，你能猜出來嗎？

每個圓圈只露出一張圖的一小塊。猜一猜，整張圖畫的是什麼？

你靠的是小線索：一段圓圓的黑邊，一隻尖耳朵，幾粒小黃點。大東西是由小花紋拼起來的。今天這臺電腦認圖，用的也是這個思路。

2一場看圖認東西的大比賽

2009 年，李飛飛帶領的團隊做了一個巨大的圖片庫，叫 ImageNet，每張圖都標好了答案。大家每年用它辦一場比賽，比誰的程序認圖最準。

要認的東西	1000 種。光是狗就有上百種。
練習用的圖	大約 120 萬張。考試用程序沒見過的新圖。
怎麼算對	程序說出 5 個猜測，裡面有正確答案就算對。

能猜 5 次，是因為有些東西太像了，比如兩種很像的狗。5 個猜測全都不對才算錯。錯的圖佔多少，叫「前 5 錯誤率」，越小越好。

3以前的辦法：人來寫規則

在電腦眼裡，一張圖是一大片小方格。每個小方格叫一個像素，只有一種顏色。電腦只看到一堆數字，不知道哪裡是耳朵。2012 年以前，主要靠人來想好「該找什麼」，比如邊緣、角落、紋路。電腦照著人寫的步驟去找，再打分。這像一張檢查單：

AlexNet 換了思路：不告訴電腦該找什麼，讓它自己從 120 萬張圖裡學。就像第 1 課的猜字遊戲，猜錯了就悄悄調整自己。只是這次它猜的是「這張圖是什麼」。

4卷積：拿小窗口一格一格掃

AlexNet 用很多個小窗口看圖。每個小窗口只找一種小花紋。下面這個 3×3 的小窗口，專找「豎線」：

小窗口從左上角開始，一格一格往右挪，一行掃完換下一行。每個位置打一個分。分數高，那裡就有豎線。這種「拿小窗口一格一格掃」的做法，叫卷積。用很多層卷積搭起來的程序，叫卷積神經網絡。

AlexNet 第一層有 96 種小窗口，每個是 11×11 格。沒有人告訴它每個窗口該找什麼。窗口裡的花紋也是「旋鈕」（第 4 課講過），是它練習時自己調出來的。

第一層掃完，結果交給下一層再掃。一層一層往上，小花紋拼成大東西：

AlexNet 一共 8 層：前 5 層用小窗口掃，後 3 層彙總線索，從 1000 種東西里給出答案。層數多就叫「深」，所以這種辦法叫深度學習。

5怎麼練出來：2 塊顯卡和 3 個小竅門

AlexNet 裡有大約 6000 萬個旋鈕。用 120 萬張圖把它們調好，計算量大得嚇人。三位科學家用了 2 塊遊戲顯卡（GPU）。

當時每塊顯卡只有 3 GB 內存，裝不下整個網絡。他們把網絡劈成兩半，每塊顯卡管一半。2 塊顯卡一起練了 5 到 6 天。他們還用了 3 個小竅門：

ReLU 開關	每個零件後面裝一個簡單開關：沒信號就關，有信號就原樣放過去。學得快好幾倍，一次小測試裡快了約 6 倍。
Dropout（請假法）	第 3 課講過。在最後彙總線索的地方，每次隨機讓一半零件請假，防止死記硬背練習圖。
數據增強（一圖變多題）	把圖左右翻轉，隨機剪下一大塊，或者稍微改改顏色。貓翻過來還是貓，練習題一下子多了很多倍。

6結果：一下子領先一大截

2012 年的比賽，AlexNet 拿了第一名。比較一下「前 5 錯誤率」：

換成 100 張考試圖來想：第二名大約 26 張全猜錯，AlexNet 只有大約 15 張。差了大約 11 個百分點，誰也沒法裝作沒看見。

2012 年，3 樣東西剛好湊齊：大量帶答案的圖（ImageNet），夠快的顯卡，練得動的深網絡。之後兩三年，研究看圖的科學家幾乎都改用了深度學習。三位作者裡，Hinton 在第 4 課出現過，Sutskever 是第 3 課的作者之一。Sutskever 後來參與創辦了做出 ChatGPT 的 OpenAI。

7這和今天有什麼關係

今天很多手機相冊能搜「貓」「海邊」，有的軟件拍一下花就能說出花名。這些看圖本領，都是沿著 AlexNet 這條路發展來的。第 9 課的網絡有 152 層，比它深得多。

今天的聊天 AI 結構和 AlexNet 不一樣，但有幾樣東西傳了下來：用顯卡訓練，用簡單開關，練習時請假，讓電腦從大量例子裡自己學。AlexNet 證明了：網絡更大，材料更多，算得更快，電腦就學得更好。

10詞語小卡片