本課講 2008 年 Shane Legg 的博士論文《機器超級智能》。他想回答一個老問題：「聰明」到底是什麼？能不能給它打個分？
下面每場比賽有兩位選手。圈出你覺得會贏的那一位。
每場都有贏家。可是計算器、下棋程序、小狗和你，誰最聰明？
不好回答吧？科學家也爭了很多年。2008 年，在瑞士讀博士的 Shane Legg 想把它說清楚。
「聰明」的大名叫智能。Legg 先把別人的定義找出來：心理學家的、AI 科學家的，還有詞典裡的，一共大約 70 條。有的說智能是會學習，有的說是會解決問題。Legg 把它們擺在一起，找出 3 個共同點：
Legg 把 3 點合成一句話。用我們的話說：
智能，就是在各種各樣的環境裡達成目標的能力。
環境就是選手所在的世界和規則。一局遊戲、一間要打掃的屋子、一張考卷，都是環境。
最要緊的是「各種各樣」這 4 個字。下棋程序下國際象棋比世界冠軍還強。可是找球、掃地、猜謎語，它一樣也不會。所以按 Legg 的說法，它只在一個環境裡很強，算不上很聰明。一個 10 歲的孩子哪樣都不算頂尖，能應付的環境卻多得多。
Legg 把「選手和環境打交道」畫成一個圈：
示意圖：選手做動作，環境告訴它發生了什麼，再給一點分數。然後選手做下一個動作，一圈一圈地轉。
能自己做動作的選手，叫智能體。環境給的分數，叫獎勵。「達成目標」就變成了「拿到更多獎勵」。第 29 課講智能體怎樣更快拿到獎勵，第 30 課講獎勵從哪裡來。
光有一句話，還沒法比誰更聰明。Legg 想把它變成一道能算分的題：找來所有可能的環境，多到數不完。讓選手在每個環境裡都玩一遍，每個環境最多給 1 分。最後把分數加起來，可是每個環境的「分量」不一樣。
分量怎麼定？用第 26 課的最短說明書：東西越複雜，描述它的最短說明書越長。Legg 的規定是：說明書越短，環境越簡單，分量越重。說明書每長 1 格，分量就減一半。
下面用 4 個環境給兩位選手算算。拿滿 1 分記「滿」，拿一半記「半」，再乘上分量：
| 環境（示意） | 說明書 | 分量 | 下棋程序 | 愛學習的選手 |
|---|---|---|---|---|
| 猜規律：1、2、1、2……下一個是幾 | 1 格 | 8 | 0 | 滿 → 8 |
| 走出一個小迷宮 | 2 格 | 4 | 0 | 滿 → 4 |
| 和有固定習慣的對手玩石頭剪刀布 | 3 格 | 2 | 0 | 半 → 1 |
| 下一盤國際象棋 | 4 格 | 1 | 滿 → 1 | 0 |
| 總分 | 1 | 13 | ||
示意：真的說明書長得多，分量也減得厲害得多。
為什麼簡單的分量重？簡單的環境最基本，連它都應付不了，很難說聰明。下棋程序在國際象棋裡拿滿分，總分卻很低。這個加起來的總分，Legg 叫它通用智能。「通用」就是哪兒都能用，不是隻會一樣。
誰能拿最高分？Legg 的導師 Marcus Hutter 設計過一位想像中的選手，叫 AIXI。它把所有可能的說明書都想一遍，越短的越相信。每一步，它都選能讓以後獎勵最多的動作。Legg 證明：AIXI 稍微改一改，就能在他的打分裡拿最高分。
可是 AIXI 造不出來。第 26 課講過，最短說明書有多長，沒有程序能每次都算出來，這叫不可計算。AIXI 偏要算遍所有說明書，哪臺電腦也跑不動。Legg 的總分也只能想，不能精確算出來。它們像一把理想的尺子：完美的圓誰也畫不出，可有了這個想法，就能比誰畫得更圓。
Legg 還發現：想學會越複雜的規律，程序自己也得越複雜。所以他認為，造聰明的機器最後要靠做實驗，光靠算不夠。
論文叫《機器超級智能》。超級智能指比人聰明得多的機器。最後一章討論了 3 個問題：能不能造出來？怎麼造？造出來安全嗎？怎麼造，他看好向人腦學習，特別是大腦最外面那層，叫新皮層。
為什麼要問安全？想想第 3 節的圈：智能體會想盡辦法拿獎勵。選手越聰明，辦法越多。獎勵定得不對，它可能拼命做人不想要的事。所以越聰明的機器，越要先想清楚獎勵怎麼給。
2010 年，Legg 和 Demis Hassabis、Mustafa Suleyman 一起創辦了 DeepMind，目標是造出通用的人工智能。它早期押注「大網絡 + 在環境裡拿獎勵」，正好對上那個圈。Legg 在 DeepMind 一直推動 AI 安全研究。
今天，幫人查資料、寫程序的 AI 常被叫作「智能體」。聊天 AI 要考幾百場不同的考試，這其實是用幾百個人挑的環境，代替 Legg 的「所有環境」。2023 年，DeepMind 提出給通用 AI 分等級：既看能做多少種事，也看每種做得多好。Legg 是作者之一。
誠實地說，Legg 的總分不是標準答案。有科學家指出：說明書換種寫法，排名就可能變。也有人認為，智能更該看「學新本領有多快」。可是「智能體、環境、獎勵」這個圈，今天仍是研究 AI 的共同說法。
1. 每人自己填表，每格打分：0 = 做不到，1 = 勉強能做，2 = 做得好。把每行加起來寫進「總分」。
2. 大家比一比：哪一格分歧最大？說說理由。
3. 加一條 Legg 規則：商量出最簡單的 2 個環境，圈起來。這 2 列的分數乘 2，再算一次總分。
| 選手 | 算長乘法 | 掃地 | 下象棋 | 找零食 | 學新遊戲 | 安慰朋友 | 總分 | 乘 2 後 |
|---|---|---|---|---|---|---|---|---|
| 計算器 | ||||||||
| 掃地機器人 | ||||||||
| 下棋程序 | ||||||||
| 小狗 | ||||||||
| 我自己 |
你會發現：計算器在一列裡拿 2 分，總分卻很低。你自己也許哪列都不是最強，總分卻很可能最高。大家打的分還常常不一樣，所以 Legg 想用數學定規則。
1. 1 個人當「環境」，從下面挑一條規則，偷偷寫在紙上。其他人當「智能體」。
2. 智能體輪流說一個 1 到 20 的數。環境只回答「得 1 分」或「0 分」，這就是獎勵。
3. 智能體隨時可以猜規則。猜對了，記下自己說了幾個數。3 輪依次用短、中、長規則。
短：雙數得分；比 10 大得分
中：個位是 5 或 0 得分；3 的倍數得分
長：雙數並且比 10 小得分；個位是 3 或 7，並且比 10 大得分
你會發現：規則越短，猜得越快，就像說明書越短的環境越簡單。3 輪都猜得快的人，最接近 Legg 說的「聰明」。「固執選手」每次只說雙數：第 1 輪幾乎次次得分，後兩輪就不行了，就像只會下棋的程序。
給家長和老師：本課講的是 Shane Legg 2008 年的博士論文 Machine Super Intelligence（盧加諾大學 / IDSIA，導師 Marcus Hutter）。論文彙總約 70 條定義得出非正式定義，再形式化為通用智能度量：智能體在所有可計算、總獎勵不超過 1 的環境中的期望獎勵，按 2−K（K 為環境的柯氏複雜度）加權求和。該度量與 AIXI 都不可計算。
熱身、選手對比表、「說明書 1–4 格、分量 8/4/2/1」的例子、「完美的圓」和兩個活動都是示意；3 個共同點和定義句是中文轉述；第 6 節「獎勵定得不對」和想一想第 3 題是為銜接第 30 課加的。第 7 節的批評來自 Leike 與 Hutter（2015）和 Chollet（2019）。想深入可看本站的 第 27 天中文導讀，代碼見 30u30 第 27 天目錄（英文）。極客教育 jikejiao.com 原創講義 · 2026-10