本课讲 2008 年 Shane Legg 的博士论文《机器超级智能》。他想回答一个老问题：“聪明”到底是什么？能不能给它打个分？
下面每场比赛有两位选手。圈出你觉得会赢的那一位。
每场都有赢家。可是计算器、下棋程序、小狗和你，谁最聪明？
不好回答吧？科学家也争了很多年。2008 年，在瑞士读博士的 Shane Legg 想把它说清楚。
“聪明”的大名叫智能。Legg 先把别人的定义找出来：心理学家的、AI 科学家的，还有词典里的，一共大约 70 条。有的说智能是会学习，有的说是会解决问题。Legg 把它们摆在一起，找出 3 个共同点：
Legg 把 3 点合成一句话。用我们的话说：
智能，就是在各种各样的环境里达成目标的能力。
环境就是选手所在的世界和规则。一局游戏、一间要打扫的屋子、一张考卷，都是环境。
最要紧的是“各种各样”这 4 个字。下棋程序下国际象棋比世界冠军还强。可是找球、扫地、猜谜语，它一样也不会。所以按 Legg 的说法，它只在一个环境里很强，算不上很聪明。一个 10 岁的孩子哪样都不算顶尖，能应付的环境却多得多。
Legg 把“选手和环境打交道”画成一个圈：
示意图：选手做动作，环境告诉它发生了什么，再给一点分数。然后选手做下一个动作，一圈一圈地转。
能自己做动作的选手，叫智能体。环境给的分数，叫奖励。“达成目标”就变成了“拿到更多奖励”。第 29 课讲智能体怎样更快拿到奖励，第 30 课讲奖励从哪里来。
光有一句话，还没法比谁更聪明。Legg 想把它变成一道能算分的题：找来所有可能的环境，多到数不完。让选手在每个环境里都玩一遍，每个环境最多给 1 分。最后把分数加起来，可是每个环境的“分量”不一样。
分量怎么定？用第 26 课的最短说明书：东西越复杂，描述它的最短说明书越长。Legg 的规定是：说明书越短，环境越简单，分量越重。说明书每长 1 格，分量就减一半。
下面用 4 个环境给两位选手算算。拿满 1 分记“满”，拿一半记“半”，再乘上分量：
| 环境（示意） | 说明书 | 分量 | 下棋程序 | 爱学习的选手 |
|---|---|---|---|---|
| 猜规律：1、2、1、2……下一个是几 | 1 格 | 8 | 0 | 满 → 8 |
| 走出一个小迷宫 | 2 格 | 4 | 0 | 满 → 4 |
| 和有固定习惯的对手玩石头剪刀布 | 3 格 | 2 | 0 | 半 → 1 |
| 下一盘国际象棋 | 4 格 | 1 | 满 → 1 | 0 |
| 总分 | 1 | 13 | ||
示意：真的说明书长得多，分量也减得厉害得多。
为什么简单的分量重？简单的环境最基本，连它都应付不了，很难说聪明。下棋程序在国际象棋里拿满分，总分却很低。这个加起来的总分，Legg 叫它通用智能。“通用”就是哪儿都能用，不是只会一样。
谁能拿最高分？Legg 的导师 Marcus Hutter 设计过一位想象中的选手，叫 AIXI。它把所有可能的说明书都想一遍，越短的越相信。每一步，它都选能让以后奖励最多的动作。Legg 证明：AIXI 稍微改一改，就能在他的打分里拿最高分。
可是 AIXI 造不出来。第 26 课讲过，最短说明书有多长，没有程序能每次都算出来，这叫不可计算。AIXI 偏要算遍所有说明书，哪台电脑也跑不动。Legg 的总分也只能想，不能精确算出来。它们像一把理想的尺子：完美的圆谁也画不出，可有了这个想法，就能比谁画得更圆。
Legg 还发现：想学会越复杂的规律，程序自己也得越复杂。所以他认为，造聪明的机器最后要靠做实验，光靠算不够。
论文叫《机器超级智能》。超级智能指比人聪明得多的机器。最后一章讨论了 3 个问题：能不能造出来？怎么造？造出来安全吗？怎么造，他看好向人脑学习，特别是大脑最外面那层，叫新皮层。
为什么要问安全？想想第 3 节的圈：智能体会想尽办法拿奖励。选手越聪明，办法越多。奖励定得不对，它可能拼命做人不想要的事。所以越聪明的机器，越要先想清楚奖励怎么给。
2010 年，Legg 和 Demis Hassabis、Mustafa Suleyman 一起创办了 DeepMind，目标是造出通用的人工智能。它早期押注“大网络 + 在环境里拿奖励”，正好对上那个圈。Legg 在 DeepMind 一直推动 AI 安全研究。
今天，帮人查资料、写程序的 AI 常被叫作“智能体”。聊天 AI 要考几百场不同的考试，这其实是用几百个人挑的环境，代替 Legg 的“所有环境”。2023 年，DeepMind 提出给通用 AI 分等级：既看能做多少种事，也看每种做得多好。Legg 是作者之一。
诚实地说，Legg 的总分不是标准答案。有科学家指出：说明书换种写法，排名就可能变。也有人认为，智能更该看“学新本领有多快”。可是“智能体、环境、奖励”这个圈，今天仍是研究 AI 的共同说法。
1. 每人自己填表，每格打分：0 = 做不到，1 = 勉强能做，2 = 做得好。把每行加起来写进“总分”。
2. 大家比一比：哪一格分歧最大？说说理由。
3. 加一条 Legg 规则：商量出最简单的 2 个环境，圈起来。这 2 列的分数乘 2，再算一次总分。
| 选手 | 算长乘法 | 扫地 | 下象棋 | 找零食 | 学新游戏 | 安慰朋友 | 总分 | 乘 2 后 |
|---|---|---|---|---|---|---|---|---|
| 计算器 | ||||||||
| 扫地机器人 | ||||||||
| 下棋程序 | ||||||||
| 小狗 | ||||||||
| 我自己 |
你会发现：计算器在一列里拿 2 分，总分却很低。你自己也许哪列都不是最强，总分却很可能最高。大家打的分还常常不一样，所以 Legg 想用数学定规则。
1. 1 个人当“环境”，从下面挑一条规则，偷偷写在纸上。其他人当“智能体”。
2. 智能体轮流说一个 1 到 20 的数。环境只回答“得 1 分”或“0 分”，这就是奖励。
3. 智能体随时可以猜规则。猜对了，记下自己说了几个数。3 轮依次用短、中、长规则。
短：双数得分；比 10 大得分
中：个位是 5 或 0 得分；3 的倍数得分
长：双数并且比 10 小得分；个位是 3 或 7，并且比 10 大得分
你会发现：规则越短，猜得越快，就像说明书越短的环境越简单。3 轮都猜得快的人，最接近 Legg 说的“聪明”。“固执选手”每次只说双数：第 1 轮几乎次次得分，后两轮就不行了，就像只会下棋的程序。
给家长和老师：本课讲的是 Shane Legg 2008 年的博士论文 Machine Super Intelligence（卢加诺大学 / IDSIA，导师 Marcus Hutter）。论文汇总约 70 条定义得出非正式定义，再形式化为通用智能度量：智能体在所有可计算、总奖励不超过 1 的环境中的期望奖励，按 2−K（K 为环境的柯氏复杂度）加权求和。该度量与 AIXI 都不可计算。
热身、选手对比表、“说明书 1–4 格、分量 8/4/2/1”的例子、“完美的圆”和两个活动都是示意；3 个共同点和定义句是中文转述；第 6 节“奖励定得不对”和想一想第 3 题是为衔接第 30 课加的。第 7 节的批评来自 Leike 与 Hutter（2015）和 Chollet（2019）。想深入可看本站的 第 27 天中文导读，代码见 30u30 第 27 天目录（英文）。极客教育 jikejiao.com 原创讲义 · 2026-10