AI 的能力与局限：先懂机器的 4 个特性，再谈怎么用好它
一句话
这门课不教提示词技巧，而是给你一个心智模型：生成式 AI 有 4 个基本特性——逐词预测、知识、工作记忆、可引导性。AI 给出意外结果时，你能判断是哪个特性在起作用，再对症处理。它是 AI Fluency 4D 框架的姊妹课：4D 讲人的能力，这门课讲机器的特性。
这篇导读覆盖的课程
- AI Capabilities and Limitations —— 入门课，5 个单元，每个特性配一个“动手试试”环节
课程结构
- 开始 · Getting started
- 本课说的“AI”指什么；模型的“性格”从训练的哪几步来。
- 逐词预测 · Next Token Prediction
- 模型每一步只预测下一个词元，流畅不等于正确。
- 知识 · Knowledge
- 知识来自训练数据，有截止日期，冷门知识容易编造。
- 工作记忆 · Working Memory
- 上下文窗口是模型唯一的“工作台”，放不下或放太多都会出问题。
- 可引导性 · Steerability
- 模型会跟随指令和例子，指令写得含糊，它就按最常见的方式猜。
- 综合 · When Properties Collide
- 多个特性同时起作用时怎么判断，以及课程测验。
精华：这门课真正要你带走的东西
核心观点：AI 的“意外”不是随机的。多数让人困惑的输出，都能归到 4 个特性中的某一个。归对了类，修法就很直接。
1. 逐词预测。大语言模型每一步只做一件事：根据前面的全部文字，预测下一个词元（token）最可能是什么。它没有先想好答案再说出来的单独步骤。所以模型的输出总是“听起来对”，但听起来对和真的对是两回事。这也解释了为什么模型擅长写作、翻译、改写，却会在多位数乘法或精确计数上出错。
2. 知识。模型的知识压缩自训练数据。训练数据有截止日期，之后发生的事模型不知道。数据里出现得多的知识，模型记得牢；出现得少的冷门事实，模型容易“编”一个看似合理的答案，这就是幻觉（hallucination）。对策是给模型提供资料，或者让它联网搜索，再要求它注明出处。
3. 工作记忆。模型在一次对话里能看到的全部内容叫上下文窗口（context window）。窗口外的东西，模型完全看不到。窗口很大也不等于用得好：资料塞得太多，关键信息会被淹没。长对话后期模型“忘了”早先的约定，常常是这个原因。对策是开新对话、把关键约束放在最近的消息里、只给真正相关的资料。
4. 可引导性。模型会认真跟随你给的指令、角色和例子。这是优点，也是风险：你没说清的部分，它按训练中最常见的模式补全；你给了一个例子，它可能过度模仿。很多“AI 写得太套路”的问题，根源是描述不够具体。
特性会叠加。例如：你问一个训练截止后的新产品（知识），对话已经很长（工作记忆），你又暗示了期望的答案（可引导性）。这时模型几乎一定会顺着你编。课程最后一个单元专门练习拆解这种叠加情况。
从“能力—局限”连续谱看任务。同一个模型，任务落在不同位置，表现差异很大。写邮件草稿落在能力端；精确引用法律条文落在局限端。用 AI 之前先估计任务落在哪里，再决定要做多少核查。
关键概念
- 词元（token）
- 模型处理文字的最小单位。一个英文单词约 1 个词元，一个汉字约 1–2 个词元。计费和上下文长度都按词元算。
- 逐词预测（next token prediction）
- 模型根据前文预测下一个词元的概率分布，再从中选一个，重复这一步生成整段文字。
- 训练截止日期（knowledge cutoff）
- 训练数据收集的截止时间。这之后的事件，模型只能从你提供的资料或搜索结果里得知。
- 幻觉（hallucination）
- 模型生成看似合理但与事实不符的内容，常见于冷门事实、精确数字、人名和引用。
- 上下文窗口（context window）
- 模型一次能看到的全部文字，包括系统指令、对话历史和附件。窗口外的内容对模型不存在。
- 可引导性（steerability）
- 模型跟随指令、角色设定和示例调整输出的能力。描述越具体，输出越可控。
学前准备
- 不需要编程或数学基础。
- 准备一个能用的 AI 聊天工具（Claude、ChatGPT 或其他都行），课程里有“动手试试”环节。
动手练一遍
用你常用的 AI 工具做下面 4 个小实验，每个实验对应一个特性。每次记下“我预期什么、实际得到什么、属于哪个特性”。
- 逐词预测：让 AI 数一段 80 字左右的话里有几个“的”字。再让它逐个列出位置后重新数。比较两次结果。
- 知识：问它一个你家乡的小众事实（一条街名的来历、一家老店的开业年份）。再问它“你对这个答案有多确定”。
- 工作记忆：在对话开头约定“每次回答都用 3 条要点”。连续聊 15 轮别的话题后，观察它还守不守约定。
- 可引导性：让它写一段产品介绍。第二次附上一个风格很特别的例子再写一次。看看它模仿了例子里的哪些东西，包括你不想要的。
容易卡住的地方
- 把流畅当正确。语气越笃定，越要核查关键事实和数字。
- 以为上下文窗口越大越好。资料给多了，关键信息反而被稀释。
- 把所有问题都归为“AI 不行”。先判断是哪个特性在起作用，很多问题换个给法就能解决。
- 问模型“你确定吗”就当作核查。模型的自我评估本身也是逐词预测的产物，只能作参考。
延伸阅读
- 下一篇：AI Fluency 4D 框架 —— 机器有这 4 个特性，人该具备哪 4 种能力
- Anthropic：Claude 的性格（Claude's Character） —— 对应课程里“AI 的性格从哪来”一节的背景阅读
- Claude 文档：减少幻觉 —— 官方给出的几种降低幻觉的做法（英文）