Dwarkesh Patel 访谈：召唤幽灵、RL 批判与「九的长征」

一句话

2025 年 10 月，卡帕西坐进 Dwarkesh Patel 的播客，两个半小时里抛出一连串引爆全行业讨论的判断：AGI 还要约十年、我们在「召唤幽灵」而非「养动物」、强化学习糟糕透顶但别的更糟。这是他离开 OpenAI 后信息密度最高的一次公开长谈，也是理解他当前全部思想的一站式入口。

谈了什么

• 智能体的十年：为什么他说这是「the decade of agents」而不是「the year of agents」——当前智能体缺持续学习、缺可靠的多模态与用电脑能力，问题可解但都难，加起来大约要十年。
• 幽灵与动物：动物的智能是进化「外层循环」优化出来的，而 LLM 是对互联网数据的模仿，是「飘在数字空间的幽灵」。这是他回应 Sutton 论战的口头完整版。
• LLM 的认知缺陷：预训练让模型背了太多互联网，他设想一个剥离记忆、只留推理算法的「认知核心」，可能只需十亿级参数。
• 强化学习批判：结果奖励把一整条轨迹压成一个数字，监督信号稀薄且容易被模型钻空子——他形容这是「用吸管吸监督」。
• 经济与自动化：为什么编程是第一个被 AI 吃掉的领域（文本原生、基础设施齐全）；AGI 不会造成 GDP 曲线跳变，而会融进原有的增长趋势。
• 自动驾驶的教训与教育：demo 到产品之间隔着「九的长征」（march of nines）——可靠性每提高一个 9 都要同等的巨量工作；结尾谈 Eureka Labs 和他对教育的构想。

背景

访谈发布时，卡帕西已离开 OpenAI 一年半，刚开源 nanochat，正全职做 Eureka Labs；几天前他又刚和强化学习之父 Sutton 隔空交锋。行业当时正处在「智能体元年」的亢奋顶点，这场访谈像一盆精准控温的冷水——不看衰 AI，但把时间线和难度讲实。发布后「Karpathy 说 AGI 很远」被媒体断章取义地传播，他随后在 X 上发长文澄清，那是另一份必读文本。

金句与争论

"We're not building animals. We're building ghosts." ——Andrej Karpathy，2025 · 文字稿 →

• 「AGI 还有十年」：注意语境——他在播客里说的是「问题可解，但都难」，十年是工程估算不是悲观宣言。媒体扭曲后他专门发帖澄清，播客原话与推文澄清的区别见这篇解读。
• RL「很糟糕，但别的更糟」：他并非否定 RL，而是指出结果奖励的信息瓶颈，呼吁更接近人类「复盘反思」的学习范式——这句被断章成「Karpathy 反对 RL」引发大量争论。
• 智能体不是员工：他提醒当前智能体更像需要看管的实习生，行业把它们当「数字员工」卖是超前于能力的。

对你意味着什么

1. 做智能体产品的人：把「九的长征」当作路线图——demo 只是第一个 9，评测、护栏、失败恢复才是产品的主体工程。
2. AI 学习者：他反复强调基础问题（持续学习、记忆、泛化）远未解决，这份「未解清单」就是未来十年的选题池。
3. 独立开发者：编程是 AI 渗透最深的领域，意味着杠杆最大也内卷最快——学他的判断：押注工具链和基础设施，而非套壳。

延伸

• YouTube 原视频 · 官方文字稿（dwarkesh.com）
• 解读：「AGI 还有十年」澄清帖 —— 播客说了什么、推文补了什么
• 解读：回应 Sutton 的「幽灵」推文 · 导读：《动物与幽灵》
• 导读：Software 3.0 演讲 —— 同一时期他对软件业的判断

← 返回视频导读列表