当 AI Agent 接管工作，我们该如何保持批判性思维？
作者：Addy Osmani（Anthropic Claude Code 团队、著名技术架构师）
编译：深潮 TechFlow
深潮导读：随着智能体工作流（Agentic Workflows）的全面铺开，软件工程师与产品团队正在经历人机协作范式的剧烈重塑。过去在提问与解答之间孕育思考的认知缓冲带，如今已被压缩至短短数秒；随着大模型愈发拟真与高准确率，显性错误急剧减少，却让人们在愉悦的顺从感中逐渐滑向“认知投降”，系统性理解力与底层能力也在不知不觉中加速萎缩。
作为前 Google Chrome 工程主管、现 Anthropic Claude Code 团队核心成员，Addy Osmani 在本文中系统剖析了从“认知卸载”、“推迟判断”到“认知投降”的光谱滑移现象。他不仅深入拆解了系统理解力负债的隐性积累机制，更针对日常工作流提出了一套兼具实操性与防御性的主动阅读与对抗性提问策略，阐述了即使 AI 具备更高胜率的未来，人类为何依然必须牢牢守住责任底线与批判性思考能力。
曾几何时，学校里教授的批判性思维是要求人们带着谦逊的好奇心与适度的怀疑态度去面对新信息：博采众长、兼听则明，最终形成自己的独立见解。这一原则至今依然适用，但如今，随着我日常绝大部分工作都交给智能体（Agents）来运转，现实中几乎没有任何东西再被动逼迫我去运用批判性思维了。
对于那些已经彻底拥抱智能体工作流、在日常中并发运行多个会话并静候模型性能持续精进的工程师和产品人员，我想首先说明：我自己就是这类工具的忠实拥趸。我写下这篇文章，绝非为了倡导大家减少对智能体工作流的使用。
我的核心目标在于：在这个任何事情都可以轻易外包给智能体的世界里，帮助你依然牢牢保持住属于自己的批判性思维。
在过去，人类大部分的认知处理与审美判断，都孕育在提问与解答之间的留白空隙中。然而在今天，这段空隙的尺度已经缩短到了短短数秒。你使用智能体工作流越深，保持清醒就越发艰难（尽管这种艰难的方式可能与大众预期的并不相同）：随着模型的持续精进，显而易见的荒谬错误占比大幅降低。绝大多数生成结果都写得极为体面且大体正确，但恰恰是这种看似无可挑剔的体面，让人根本不会想去多看第二眼。
即便你同时并行跑着十几个智能体，最终审视产出结果的，依然只有你自己的这一双肉眼。
你必须主动将批判性思维刻意嵌入到日常流程中，因为在默认状态下，没有任何外部力量会替你把关。
导致人们难以自我纠偏的部分原因在于：智能体工作流的体验实在是太令人愉悦了。在忙乱不堪的工作日里，能如此快速地拿到体面、舒适且大体正确的现成答案，确实令人神清气爽；但这也正是人们极易彻底放松警惕、缴械投降的温床。
卸载、推迟与认知投降
在与同行讨论这一现象时，我通常会将其描绘为一个连续的光谱：
处于光谱最顶端的是“认知卸载”（Cognitive Offloading），即把具体繁琐的任务委托给 AI 执行，但人类自身始终对最终结果保持绝对的所有权与责任感。我自己整天都在这么做，你也应当如此。
位于光谱中段的是“推迟判断”（Deferral），此时工具吐出的结果直接变成了你下一步的新输入，产出内容不再被视作一个需要验证的假设。
而滑落到光谱最底端的，则是“认知投降”（Cognitive Surrender）：AI 的输出不知不觉间悄然变成了你自己的主张，你甚至本能地觉得完全没有必要去核验它。
“认知投降”这一术语由沃顿商学院的 Steven Shaw 与 Gideon Nave 提出。它极其精准地印证了我近期的所见所闻：随着对工具信任度的增加（或者说惰性的滋生），人们会不自觉地沿着这个光谱逐渐下滑。
这种滑移往往极其隐蔽且难以察觉，因为其中的每一步都是渐进发生、且在当下显得合情合理的：你认真精读了上一次的回答，所以下一次你就只是大致略读；再下一次，你仅仅扫一眼骨架大纲；直到某一天，当别人指着其中某一行代码向你发问时，你赫然发现自己即使借助智能体的帮助，也根本无法向对方解释清楚其底层逻辑。
这便是典型的认知投降。它正是“认知负债”（Cognitive Debt）悄然累积的源头。这种负债通常会在你试图调用系统的全局心智模型、却发现脑中空空如也时才暴露无遗。
学者 Margaret-Anne Storey 曾撰文指出，这在团队协作中表现为对共享系统理论理解力的持续侵蚀。我也曾写过关于代码层面的对应现象，即“理解力负债”（Comprehension Debt，该词由 Jeremy Twei 提出）。在日常写代码的当下，这种负债是完全隐形的：代码库看起来整洁优雅，所有的自动化测试也都全部飘绿通过。然而一旦系统需要进行架构级重构，所有人都会陷入面面相觑的尴尬：团队里竟然没有一个人真正读得懂这套系统了。同样的问题也发生在你仅仅扫了一眼战略方案或技术规格书的目录、便随手签字批准的时刻。
需要明确的是，我并不是在提倡一种不切实际的完美主义。要求工程师在脑海中时刻维持整个庞大现代代码库的完整心智模型是不可能的。Claude Code 团队此前就曾公开表示，他们现在采取的是“按需重建理解”的策略：当需要修改某一模块时，直接让 Claude 现场讲解该切片的逻辑，而不是强行在脑中维持全局图景。
正如我之前指出的，这种局部的理解力负债其实比大多数工程师想象的更容易补救。只要你能够在需要时随时在局部重建理解，你并不需要时刻维持整个全景图。但底线在于：你必须清醒地知道自己究竟在哪些地方存在盲区。
在试错成本极低的琐碎小事上，大家大可放心将决策权全盘交出。可一旦你面对一个关键问题、甚至借助智能体也无法解释其底层答案时，你就已经实质上彻底放弃了系统的所有权。
当然，这并不意味着所有场景都必须如临大敌。就在前不久，我需要录制一门课程，面临在三家评分接近的酒店中挑选一处作为录制场地。我当时确实没有时间逐条翻阅海量的住客评价，于是我直接把这个决定全权委托给了一个 AI。结果非常令人满意，下次遇到类似场景我依然会这么做。
但是，在关乎核心资产投资、子女职业生涯规划，或者在工作中决定该开发什么功能、改动会波及哪些真实用户、代码是否达到安全上线标准时，我绝不会将决策权拱手让人。在犯错成本低廉的边缘地带，你可以尽管放手交接；但在他人必须为后果埋单的核心环节，你必须死死守住属于人类的逻辑推演。
我常问自己的核心问题
在过去自己思路陷入混沌时，我通常会退回到一组极其质朴的基础问题清单：我怎么知道自己正在解决的问题是正确的？我怎么知道自己采用的解题路径是正确的？是否有确凿的客观证据支撑我的结论？我如何确认这项工作已经彻底完成？大多数时候，这不过是新闻学经典的五何原则（何人、何事、何地、为何、何时与如何）。写在纸上时，它们看似幼稚如儿戏，但却能强迫你从那些平时极易被忽略的盲区维度去展开审视。
在当下这个时代，人们太容易直接跳过所有这些痛苦的思考，转头向智能体询问“你觉得我该怎么做”。因此，我为自己更新了一套针对智能体时代的全新反思清单：
• 在发问之前，我是否已经形成了自己的初始假设？在启动智能体处理任何非琐碎任务之前，我都会强制自己在脑海中（或便签上）写下我认为可能的答案走向。哪怕这只是一个粗糙糟糕的猜想也完全无所谓。在看到新信息后，你随时有权推翻并改变主意。但只要你先读了一篇文笔极其优雅流畅的生成回答，你就很难再去想象任何其他的可能性了。如果你手头毫无头绪，可以尝试 Thariq Shihipar 所称的“盲点排查提问法”：把你已知的事实全盘托出，让模型专门帮你去寻找那些未知的未知项。
• 我是在让它辅助我思考，还是在把思考本身外包给它？这两种模式其实都是允许的，关键在于你必须保持绝对的清醒，明确知道自己当前处于哪一种状态。
• 必须具备哪些前提条件，这个方案才会彻底失效？想清楚之后，立刻去实地动手验证。模型对自身回答的置信度自我评估，其参考价值远不如你亲自运行一项真实的测试，所以请给它设置一道真正的检验关卡。
• 我是否听取过来自对立视角的反向论据？当我在某个开放性问题上形成坚定立场时，我会要求模型充当挑剔的反对派，专门为我列出反对该立场的最强反驳论据。这并不一定是为了推翻我的决定，而是为了强迫我自己去直面那些原本在顺风顺水时会被下意识过滤掉的不利盲区。
• 如果必须由我自己亲自为这个结果辩护，我该怎么说？请暂时关掉智能体窗口，尝试用完全属于你自己的大白话向同事阐述这一方案。如果你发现自己磕磕绊绊说不明白，那就说明你还没有真正搞懂它，此时你只是在机械充当 AI 的传声筒。
主动阅读与被动阅读
在被动阅读模式下，你的大脑只是机械顺着既定文本滑动，被动接收信息流。由于智能体吐出的文字通常行文流畅、修辞工整且文法无挑剔之处，被动阅读在这种环境下极度容易让人误以为自己已经彻底领会了精髓。这就好比你在技术大会上看着台上的顶级讲师演示行云流水的架构操作，你在台下连连点头觉得理所当然，但一旦回到酒店打开空白编辑器，你发现自己根本写不出第一行代码。
主动阅读则是一种带着对抗性假定的审视行为。它不仅关注文本里写了什么，更在死死拷问：它为什么会写在这里？它避开了哪些核心难点？它为什么偏偏选择这种解法而不是另一种？
对于智能体产出的长篇方案，我通常会带着两个极其明确的挑剔视角去读：
首先是寻找那些“缺失的上下文”：它默认的前提假设是什么？它是否遗漏了某些边缘特例？在两项需求发生冲突时，它是基于什么原则悄悄替我做了取舍？
其次是主动发起“对抗性提问”：如果并发访问量突然暴增十倍，这个设计会怎么崩塌？如果第三方的外部依赖服务宕机半小时，系统会出现什么连锁灾难？与其被动阅读满纸的现成答案，不如主动拿起手术刀去给它做压力测试。
通过智能体阅读
智能体不仅能用来撰写长篇大论，它同样能被训练成为协助你进行深度批判性阅读的强大盟友。关键在于，你不能只让它给你输出皆大欢喜的结论，而要让它暴露背后的分歧与裂痕：
你可以让它对两份看似对立的架构设计进行交叉质证，指出双方各自妥协了什么；你可以让它扮演刻薄的代码审查员，专门挑出那些虽然能跑通测试、但潜藏着未来维护陷阱的烂代码；你甚至可以让它在完成长文本输出后，随机从中间抽取三处细节反向向你提问，以此检验你是否真的读懂了上下文。
把智能体当作思维的磨刀石，而不是思维的替代品。
监督悖论：谁在审核谁？
编写代码与审查代码完全是两种截然不同的思维技能。在海量生成的代码流面前，人类的审查很容易在疲惫中退化为闭着眼睛盖章的“橡皮图章”。
因此在审查代码变更（Diff）时，请务必假装这份代码根本不是由神通广大的 AI 写的，而是由一位刚刚入职的实习生提交的。更重要的是，不要仅仅盯着代码的增删行，而要穿透表面代码，去追问智能体在背后悄悄替你做出了哪些重大微决策：它选择了什么默认值？它把哪些复杂逻辑悄然剔除出了本次范围？当两个产品需求发生冲突时，它暗自重新解释了哪一条？
如果一份报告只是轻描淡写地告诉你“一切顺利、测试全通”，你将永远看不到任何关键决策的内幕。因此，请明确要求它单独列出一张清单：说明它在本次任务中做出了哪些主观假设与妥协抉择。然后，请对自己进行随机抽查：随便圈出两三行关键代码，问问自己究竟为什么要这么写？如果换作一份设计文档，关掉页面，尝试完全凭记忆向别人复述其核心论点。我非常喜欢某些团队推行的一项硬核规则：让智能体在提交变更报告的文末附带一套自我测试题，团队的硬性规矩是“只有当我百分之百答对测试题时，代码才被允许合并”。
请确保你对自己交付上线的产品拥有足够深刻的理解与底气，随时能够站出来为之辩护。因为在未来的某一天，一定会有人带着问题找上门来。
与此同时，智能体也能用来帮我们构筑宝贵的注意力防线。例如，我维护着一个接收海量 Pull Request 的大型开源项目。我会让智能体帮我进行初筛：识别哪些提交违背了社区贡献准则，哪些需要我重点投入精力介入。我绝不会让智能体直接替我拍板决定合并与否，但它们可以帮我精准收窄注意力漏斗，让我把真正的人类认知带宽集中在“这些改动是否在用正确的路径解决真正的问题”上。
最后，必须正视产量爆炸带来的心理膨胀。我将其称为“编排税”（Orchestration Tax），它本质上是智能体海量生成的工业品体量，与你真正问心无愧愿意署上自己名字的精品体量之间的巨大鸿沟。如果产出堆积的速度已经远远超过了你细致审核的生理极限，那么再开一个新的并发会话根本无济于事：你必须要么收紧自动化校验流程，要么果断放慢速度。
当你产出的东西已经超出你能够站台负责的范围时，你已经不再是在进行专业审查了，你只是在心存侥幸地祈祷不出事。
输入决定产出：优质输入铸就优质产出
在人机协作体系中，人类的心智模型并未消失，只是它的重心发生了位移：它从原本漫长的中间编码环节，被整体平移到了最前沿的任务输入端与最终端的产出验收端。你把全部的认知精力投入到了前期的任务拆解、上下文喂送，以及后期的严格审计闭环中。这正是为什么提示词（Prompting）的质量对最终结果具有决定性影响，我始终把优秀的提示工程视作一项高阶批判性思维的核心技艺。
在过去，如果你向人类同事抛出一个含糊不清的模糊需求，对方一定会立刻把你顶回来，你也会在反问中恍然大悟：“原来我根本没把这件事想明白。”然而，智能体往往不会在这个时候叫停你。它会默默脑补你遗漏的所有细节，然后看似极其高效地递回一份表面极其工整完备的交付物，哪怕背后的核心意图依然是一团浆糊。我把这种现象称为“意图负债”（Intent Debt）：那些悄悄嵌入在交付物中、但连你自己都未曾真正推敲过的隐性目标与约束。与其他负债不同，没有任何人能够替你清偿意图负债，核心意图必须 100% 来源于你自己。
你写出的提示词，恰恰是你自己对问题理解深度的一面照妖镜；如果你无法用清晰精确的语言表达它，那往往意味着它在你的脑海中本身就是一团乱麻。
在向外部寻求算力援助之前，请先用属于你自己的朴素大白话撰写一份任务需求大纲。明确交代受众群体、界定绝对禁止触碰的边界条件，并给出彻底完工的客观验收标准（Definition of Done）。当第二轮修改依然无法达到预期时，请立即停下盲目的微调修补，彻底重写你的输入提示词。
你同样可以借助智能体来倒逼自己的输入质量。哲学家 Andy Clark 曾对“将任务单向委托给 AI”与“同 AI 展开深度双向协作”做出过深刻区分。在真正的协作模式下，你会进入一个彼此赋能的正向飞轮：你的精准提示打磨出卓越的产出，产出反过来倒逼出更深度的提示，并最终大幅深化了你自己对系统的心智模型。如果不确定逻辑是否周延，可以让智能体反向对你进行采访，追问它尚不理解的盲区。如果在一次会话结束时，你自己脑中的逻辑闭环得到了升华，这才是真正的成功标志。
此外，必须严密警惕上下文污染。当多个智能体协作时，极易出现后一个智能体仅仅基于前一个智能体的压缩摘要继续作业的弊端，层层衰减之下，第三个智能体甚至从始至终都没能读过原始的核心文档。
与此同时，你必须建立属于自己的审美与质量金线。我在许多不同的创意与工程领域反复实验过 AI，绝大多数产出从未公开发表，因为它们根本达不到我的个人标准。在如今这个时代，所有的模型产出都能被包装得无比精致排版、自信笃定，因此“表面光滑度”早已不再是衡量质量的有效信号。
AI 或许极大提升了制造内容的流水线速度，但只要某一产出让我觉得不好意思签上自己的名字，我就绝不会允许它对外发布。
当某项产出未达标准时，请把失败的具体原因白纸黑字沉淀进共享配置文件、Git 拦截钩子或自动化测试用例中，确保同样的差错绝不再犯。这才是品味与标准实现复利式沉淀的正途，而清醒记录下哪些东西未达门槛本身，就是极具价值的认知修行。
模型未来会比我更强
如果你同我身边的许多狂热从业者一样对 AI 的未来怀有坚定的看涨信念，你可能早在阅读前几个章节时就冒出了这个念头：“再过一两年，模型的纠错与洞察能力必然全面碾压我，那我何苦还要费尽心力去维持这种批判性审查的技能？”
在许多纯技术指标的检测上，你的预判很可能是完全正确的，我自己也一直在力主将越来越多的自动化检测权移交给智能体。但为什么坚守这项能力在未来依然重若千钧？原因只有一条：归根结底，最终必须要有一个有血有肉的人，为上线交付的真实成果承担全盘责任。无论背后调用了多少算力，最终走上审判席或承担后果的，唯有真实的人类。
决定在某项具体任务中究竟赋予智能体多大程度的信任，其本身就是一项需要极高智慧的定性裁决。而要想时刻保持精准的校准判断力，你就必须持续亲自下场审查作业，因为模型出错的诡异模式始终在动态演变。Anthropic 在对其顶尖工程师和研究员的追踪研究中，深刻指出了这种“监督悖论”（Paradox of Supervision）的致命陷阱：监督并驾驭 Claude 所必需的那些高阶工程与架构造诣，恰恰正是人类在过度依赖 AI 后最容易加速退化萎缩的核心技能。
以下这些终极拷问，是我最为看重、且再强大的大模型也永远无法替你回答的命题：你究竟为什么要做这个产品？它究竟具备怎样的社会与商业价值？它会深刻影响到哪些具体的人？为了实现它，你愿意付出怎样的代价与妥协？所有这些，都必须由你亲自作答。智能体在厘清这些问题的推演中可以大放异彩，我也乐见其成，但最终的抉择印章，永远只握在你自己的手中。
你可以将具体的劳作甚至大量的审计环节全盘卸载给算法，但最终的问责权与责任感，你永远无法卸载。
日常践行法则
你完全不需要死板机械地践行所有教条，只需选取契合你工作流的方式自然融入：
• 每周一次脱机刻意练习：每周抽出一段固定时间，彻底脱离智能体辅助，纯手工写一段关键代码，或者亲自完成一件一旦生疏就会带来严重后果的核心业务（我将其称为认知校准练习，这绝非什么道德绑架）。
• 每月一次能力盘点清查：每月定期梳理一张清单，写下自己在过去一个月中由于依赖 AI 而停止亲自去做的事情，并严肃审视：其中哪些能力是你真正能够心安理得接受其永久遗忘的？我在多年前一篇旧博客中提出的质问，在今天依然掷地有声：如果有一天 AI 突然彻底消失，你将陷入多大程度的瘫痪与迷茫？
• 遇不懂处必亲自深究：如果遇到某个超出当前理解力范畴的概念，必须亲自去系统学习。如果我在撰写文章时遇到了一个未曾涉猎的生僻术语，我固然可以搜一句现成的维基解释随手塞进正文，但我更倾向于抽出一小段时间做一番深度微研究，搞懂它的前因后果，直至彻底看清它在知识全景中的生态位。
• 把审查机器当作正式工作来排期：对机器产出进行真正严谨的审核本身就是一项极其繁重的高强度脑力劳动。假装这项工作轻而易举，正是许多团队最终全盘放弃审核、埋下滔天大祸的罪魁祸首。审查绝非免费的午餐，请把它堂堂正正列入你的日常工作排期表中，这样你才能真正有精力把它落到实处。
• 停止锻炼的技能终将迅速退化：任何你长期搁置不用的认知肌肉都会加速萎缩，其消退速度往往远超你的直觉预估。请务必持续亲手操练那些你绝不甘心拱手让出的核心手艺。
核心行动清单
• 保持清醒的意图：智能体完全可以反向测试你、采访你并向你出示底层论据，但前提是你必须主动设计并配置好这套协作机制。所以，请立刻搭建起来。
• 诚实面对你在光谱中的真实生态位：如果你在没有智能体从旁提示的情况下甚至无法向他人解释清楚答案的来龙去脉，那就请承认：你已经陷入了认知投降。
• 永远带着预设假设发问：在向 AI 抛出问题前，无论好坏，先在脑海中拟定自己的猜想。
• 一个绿色的勾号仅代表一项测试通过：请始终追问：它究竟检查了什么？它悄悄漏掉了什么？
• 先看客观论据，再读主观结论：在浏览它给出的华丽总结前，先逐行看清它到底执行了哪些真实指令、调取了哪些底层数据。
• 带着对决策的敏感度去阅读：弄明白智能体在本次输出中到底替你擅自拍板了哪些微决策。
• 精细打磨你的输入提示：你书写提示词的深度与结构，直接映射出你对问题本质的真实掌控力。
• 确立绝对的交付金线并死守到底：如果这件东西连你自己都不好意思署名，就坚决不予放行。
通过持续亲手操练那些至关重要的核心手艺，让自己始终牢牢留在棋盘中心。在日常中你可以立即尝试的一个极简微习惯：在向智能体发问前，在便签上写下你预判的可能走向；在智能体交付完工后，立刻写下一项它未能覆盖的盲点。看看这种微小的对抗性习惯，能否彻底扭转你审视 AI 产出时的思考深度。独立思考，提出更有穿透力的高质量问题，并对最终的结果负全责。
图：在 AI 智能体工作流中保持独立思考与责任闭环