从 prompt 到 context:一次由他盖章生效的术语迁移
一句话
Shopify CEO Tobi Lütke 提议用「context engineering」取代「prompt engineering」,卡帕西转发力挺。经他一「+1」,这个词几周内完成了行业级替换——因为它更准确地命名了 LLM 应用的真正难点:不是写一句巧妙的咒语,而是把上下文窗口装进恰好正确的信息。
他说了什么
他的表态开门见山:
"+1 for 'context engineering' over 'prompt engineering'." —— @karpathy,2025-06-25 · 查看原推 →
随后他解释了为什么这个词更对:「prompt」让人联想到日常使用中敲给聊天框的一句话,而工业级 LLM 应用的核心工作是一门既是科学也是艺术的活——为每一步准备任务说明、少样本示例、检索来的资料、多模态数据、工具清单、状态与历史,并做好压缩取舍。装少了或形式不对,模型拿不到该有的信息;装多了,成本上升、表现反而可能变差。他还补充:即便如此,context engineering 也只是 LLM 应用这层「厚软件」的一环,外面还有任务分解、调度、验证、UI 等一整套工程。
背景:聊天框心智的破产
2023 年「提示词工程师年薪百万」的叙事,建立在「跟模型说话的技巧」之上;到 2025 年 agent 时代,决定成败的变成了系统在每一步自动组装什么信息进窗口——检索什么、记住什么、丢弃什么。这恰好接上他 2023 年的 LLM OS 类比:LLM 是 CPU,上下文窗口是内存(RAM),而管理内存里放什么,从来都是操作系统层面最核心的工程问题。术语迁移的实质,是行业承认了重心从「话术」转向「架构」。
它引发了什么
- 词典级替换:几周内「context engineering」霸占技术社区讨论;此后 Anthropic 发布《Effective context engineering for AI agents》等官方指南,岗位名称、课程、书名跟着改口。2026 年回头看,「prompt engineering」已明显带着旧时代口音。
- 把一批实践收编进同一学科:RAG、记忆系统、上下文压缩(compaction)、子 agent 隔离、工具返回值裁剪——原本零散的技巧被统一为一门有名字的工程学科,讨论质量随之上升。
- 共识落点:到 2026 年,「agent 表现的上限主要由上下文供给质量决定」成为 agent 开发者的普遍经验法则,这条推是该共识最常被引用的起点。
对你意味着什么
- 停止收藏「神奇提示词」:把精力从话术模板转向信息供给:你的 agent 每一步能看到什么?检索准不准?工具输出有没有裁剪?历史何时压缩?这些问题的回报远大于改写一句 system prompt。
- 给你的 agent 建一张上下文预算表:明确窗口里每类信息(指令 / 示例 / 检索结果 / 历史 / 工具输出)的额度与淘汰规则,像管内存一样管上下文——这是把 demo 变成可靠产品最实在的一步。
- 这是一门可以收费的手艺:帮企业把知识库、工作流「喂」进 agent 并稳定跑通,正是 context engineering 的商业形态。对独立开发者,它比卖通用 agent 更容易交付、更容易续费。
延伸
- 解读:LLM 是新操作系统的 kernel —— 上下文即内存的类比源头(2023)
- 解读:LLM OS 架构图 —— 这门学科的原始蓝图
- 解读:Software 3.0 —— 一周前的方法论总纲
- 解读:「最热门的新编程语言是英语」 —— prompt 时代的起点,对照着读
- Anthropic:Effective context engineering for AI agents —— 术语落地后的工程指南