沃顿商学院教授抢先实测 Anthropic 新模型:几乎就是 AGI,会给自己造出一套官僚体系
作者:Ethan Mollick,One Useful Thing
编译:深潮 TechFlow
深潮导读:在 Anthropic 新模型 Claude Fable 5.2 公开前,沃顿商学院教授 Ethan Mollick 展开深度实测。从逆向破解硬件、策划创业项目,到还原高难度人文课程与完成实证论文,单个模型正展现出跨越众多领域的专家级通用智能。
然而测试也揭示出“锯齿状 AGI”的全新隐忧:28 组并行智能体竟在无人要求下写出 8.75 万字规则书与三层审批制,将世界日产量从 211 个拖垮至 2 个。AI 已不再犯低级错误,却依然缺少对何时该删繁就简的自我觉察。
在正式开始之前,我想感谢各位读者让我的新书《Co-Existence》连续两周登上《纽约时报》畅销榜。如果你还没有读过,可以点击这里获取本书。
在 Anthropic 正式公开发布之前,我就有机会深度试用了全新的 Claude Fable 5.2 模型,延续了此前同样极其出色的 Opus 5.5 表现,它给我的震撼非常强烈。
事实上,如今 AI 的能力已经强到了一个临界点:我们完全有必要追问,Anthropic 最新一代模型(以及 OpenAI 与谷歌随后必然推出的竞争模型)是否已经跨越了通往“通用人工智能(AGI)”的门槛?
AGI 是一个充满争议的概念,外界对它的定义五花八门。在本文中,我暂且采用这样一个界定标准:“在绝大多数依靠电脑就能完成的智力型任务中,表现得和大多数人类专家一样优秀的 AI”。
这一定义明确排除了大量仍需人类完成的工作,包括在物理现实世界中交互、与他人打交道,以及绝大多数仅仅把“操作电脑”当作其中一环的真实工作岗位。即便加上了这些限定前提,打造出哪怕是这种“有限形态的 AGI”,也一直是 AI 开发者们长期追逐的目标。
为了不卖关子,先说我的结论:我认为它已经达到“几乎就是”AGI 的水平,也就是我此前提出过的“锯齿状 AGI(Jagged AGI)”。
即便在我设定的有限定义框架内,AI 在许多任务上依然存在明显的锯齿状短板,某些环节的表现仍大幅落后于人类水平。
不过,这种锯齿感如今已经不再体现为低级错误或胡编乱造的幻觉,因此变得更难用几句话概括。接下来,我将通过实际案例向你展示 Fable 5.2 究竟能做到什么程度,以及它的能力边界究竟卡在哪里。
在测试开始时,我向这个新模型发出了这样一条指令:“我平时在撰写《One Useful Thing》专栏,现在需要你在上线发布时帮我做出一个最令人惊艳、可以分享给大家的作品。”
“它必须能够直接嵌入博客文章中,方便我在前面做任何形式的铺垫介绍。这个作品必须在第一时间给读者带来强烈的视觉与感官冲击,充分展现你的能力边界与实力跨度,并瞬间抓住他们的注意力。发挥出你最高超的巧思。”
Fable 特别叮嘱我:在读者把这段视频完整看到结尾之前,千万不要提前剧透里面的任何内容。
注:原文此处内嵌 Fable 5.2 制作的开场演示视频,建议结合原文网页观看完整动画与反转效果
上面这段成片是模型仅凭一条提示词一次性生成的,全程没有经过我的任何修改建议或二次反馈。
其中所展现出的创造力(包括片尾的反转设计)、审美判断、趣味性与巧思都相当惊人。在我看来,这已经达到了人类专业人士尝试仅凭编写代码来制作一部短片的水准,而这正是我过去认为只有 AGI 才能实现的能力表现。
AGI 中的“G(通用能力)”
代码编写与视频制作本就是 AI 研发长期重兵投入的赛道,那么 Fable 5.2 究竟称得上真正的“通用(General)”智能吗?为了检验这一点,我在截然不同的领域给它布置了一系列高难度挑战:
仅凭一条提示词破解硬件:我办公桌上放着一个带有几颗发光按键的迷你 USB 键盘,名叫 Codex Micro(颇具讽刺意味的是,它原本是专门配合 ChatGPT 设计的),我要求 Fable 5.2 把它改造成一台便携游戏机。
据我所知,网上并不存在教你这么做的公开教程。结果模型自己读取了控制该键盘的两个应用程序底层代码,摸清了如何调节每颗按键的灯光色彩以及读取旋钮与摇杆信号的机制,随后一口气写出了 6 款游戏,其中包括《西蒙说》和一款靠旋钮操作的保险箱开锁游戏。
Fable 5.2 在第一时间就精准领会了我的意图,围绕这块小键盘极其受限的硬件机能设计出了好玩且可运行的游戏,并且在没有任何人协助的情况下,第一遍尝试就完成了全部硬件破解与联调。
注:原文此处内嵌用 Codex Micro 迷你键盘实机游玩自制小游戏的演示视频
从零启动一家企业:接下来,我们跨越纯粹写代码的范畴,进入更加混乱复杂的商业世界。我对 Fable 5.2 下达指令:“帮我创办一家能赚钱的公司,目标是一年内至少赚取 $2 万,而且每个月占用我的时间不能超过 20 分钟,剩下的全由你搞定。”
作为回应,Fable 5.2 筛选了 22 个创业方向,最终敲定了“Prebid Brief”这一产品构想:专门在市政项目正式进入公开招标前,抢先向工程设备销售代表推送正在立项拨款或规划设计的公园与水利工程情报。你可以点击这里查看它拿出的完整方案,其中甚至包含详尽的营销计划与定价策略。
为了做出首批样刊,模型自行研读了 201 个美国市、县级政府的公开会议议程,并建立起各个城市现有设备存量、使用年限与过往采购价格的数据库。
随后,Fable 5.2 开始着手配置自动定时任务,准备把这家公司真正跑起来,并询问我是否允许它开始向各地政府发送《信息公开法》调档申请邮件。直到这一步,我赶紧叫停,只让它把方案做成原型演示(Demo),不要真的把公司上线运营。
图:Fable 5.2 为“Prebid Brief”创业项目设计的职责分工与每周全自动运营流程图,展示业主(每月不足 20 分钟)、AI(获客、撰稿与汇报)与客户的协作链路(prebid-brief-demo.netlify.app)
作为一名讲授创业学的教授,我常年都在评审商业计划书。如果哪组 MBA 学生在学期末向我交出这样一份方案,我会对他们刮目相看。
整套方案逻辑自洽、考虑周全且具备真实落地可能,尽管绝不保证稳赚不赔(就连 AI 自己也诚实地给出 20% 至 40% 的成功率预估)。我之所以中途叫停而没有检验它能否真正跑通实际运营,是因为担心它在收下客户钱款后无法交付匹配品质的服务。
在推演中,模型似乎理所当然地假定某些持续运营基建可以轻易搭好,但现实中这些环节远未就绪;我也无法确定它能否妥善处理销售与市场推广中层出不穷的突发状况。
不过我怀疑,只要每周投入几个小时人工配合来填补这些缺口,我完全可以依托这个方案去认真做一次真实的创业尝试。因此,如果 AGI 的标准是 AI 能够长期、稳定且彻底独立地经营一家企业,我们显然还没走到那一步。
话说回来,换作是一个真实的人类拍着胸脯向我承诺,每个月只需要花我 20 分钟就能帮我创办企业并赚钱,我心里照样会打上一个大大的问号。
重现史上最难的人文课程:1941 年,诗人 W. H. Auden 在密歇根大学开设过一门选修课,其教学大纲后来被互联网称为史上最难课程之一。当他公布期末考题时,学生代表委员会甚至公开谴责这场考试“不可能完成且毫无同情心(impossible and inhumane)”。
这门名为《欧洲文学中的命运与个体》的课程包含多达 6000 页的阅读书单、极其严苛的作业要求,甚至强迫学生背诵超长篇幅的诗歌以及翻译大量外文作品。关于这堂传奇课程的零星史料,如今大多散落在幸存的学生笔记和奥登本人的书信中。
于是我要求 Claude 以轻松生动的方式重现这堂课,旨在让访客领略诗歌魅力而非受到折磨。最终它做出了“命运与个体(Fate and the Individual)”网站。
这个网站完整收录了奥登当年书单上的全部 35 部经典名著解读,还原了他在黑板上写下的板书、课堂播放过的唱片曲目以及他布置过的课后作业。模型还通读了奥登所有公开出版的学术著作,并据此为每一首诗加上了他本人在其他文献中的相关批注。
Claude 一手包办了资料考据、页面设计、文本撰写与程序开发,期间还指派评论员智能体逐字审校,并派出事实核查智能体将每一处论断与原始文献进行比对,最终将开源代码传至 GitHub,还顺手剪出了一支课程预告视频。
注:原文此处内嵌《命运与个体》文学课程网站预告演示视频
如果你是一位文学爱好者,这个网站的最终效果极其引人入胜。考虑到其中融合了学术考证、网页设计与文学批评,若交由人类完成,恐怕需要耗费数月工时。我亲自进行了交叉抽查,并用其他先进 AI 做了复核,均未发现任何重大硬伤。
但在艺术品味与判断力层面,AI 依然露出了参差不齐的“锯齿感”。Fable 5.2 交付的第一版极其准确却索然无味,活脱脱是一个附带随堂测验的 15 周网上授课网站。
我直白地告诉它,自己做出来的简直是一场“穿越世界上最无聊网页的残酷苦差(a brutal slog)”,并要求它重新做出美感。结果它第二遍试水直接给我整成了一个靠敲铃铛通关的儿童小游戏,逼得我不得不继续给出更具体的反馈。
此外,当我让它阐释某首诗为何在节奏或用词上堪称精妙时,它往往会自信满满地输出一套标准赏析,却完全忽略了奥登本人对这首诗究竟作何评价。每次我指出问题后,AI 都能在几分钟内迅速修好,但问题在于,它自己从未能主动察觉这些缺陷。
这究竟属于审美趣味的差异、我自己需求没写清的失误,还是 AI 的内在能力短板?很多时候,连我自己也难以分清。
独立开展原创学术研究:我指示 Fable 5.2 在创业学领域寻找一个尚未解决的实证研究课题,自主搜集数据、预先注册研究假设与方法论、撰写完整论文,并由其他智能体担任评审进行批判。没过多久,一篇名为《一美元公司(The One-Dollar Company)》的论文便交到了我手里。
论文的实证分析估算:当科罗拉多州将有限责任公司(LLC)的注册申请费从 $50 下调至 $1 时,该州的新增企业注册量飙升了约 17%;而当英国将公司注册费从 12 英镑上调至 50 英镑时,新注册量则相应下降了约 17%。
然而,这些注册数量上的显著波动,在后续多项反映企业真实经营活动的追踪指标上却并未引发同等幅度的变化,这表明因为降费而涌入的新注册公司普遍质量不高。
这是一个非常漂亮的切入点:Fable 5.2 独立选定了研究问题,挖出了公开数据集与天然的政策自然实验窗口,并独自写出了分析方案和统计代码。美中不足的是,它并没有真正合规地完成实验预注册:计划文件只是留在了本地工程里,且有一部分甚至是在早期结果出炉后才反过来补写的。
图:Fable 5.2 独立撰写的实证论文《一美元公司》核心页面拼图,涵盖摘要、科罗拉多州与英国注册费调整对比折线图(Figure 1)及实证稳健性检验数据表(Table 3、Table 4)
不同于我此前测试过的许多水货 AI 论文,这篇研究切中了一个重要议题,并采用了颇为巧妙的研究设计。初读之下,它的水准甚至超过了二年级博士生应有的表现。但按照目前的成稿,它依然远远达不到发表标准。
整篇论文被生生拉长到了惊人的 182 页,因为 AI 每收到一条同行修改意见,就只会不断往里新增一组实证检验,却从不愿意删减任何原有篇幅(这一点我们很快还会再次聊到)。
我还专门找来擅长一次性审阅复杂学术成果的 GPT-6 Pro 充当盲审评委,它连续两次抓出了需要修正的实质性问题。然而随后的多轮修改又让行文愈发冗长绕口,字里行间充斥着各种“Claude 腔(Claudespeak)”,害得我只能再一轮轮打回重写。
就现状而言,我认为这篇论文已经非常接近一篇真正能为学术文献库带来增量的合格成果。换成人类学者恐怕要花上好几个月才能做到这一步,而我个人仅仅投入了不到 1 个小时的时间。
但这恰恰跳过了一项最关键的研究环节:包括我自己在内,至今没有任何一个人类完整核查过里面的计算结果。AI 如今生产学术论文的速度已经远远超过了人类能够阅读消化的极限,这正在令整个学术界陷入一场前所未有的危机。
另一项学术复现实验推进得更加顺利。我让 Fable 5.2 复现一项声称“人类故事大多遵循少数几种固定情感曲线”的经典研究,并进一步追问情节结构是否存在跨文化的普遍规律。它一口气通读了来自世界各地的 1186 个故事,并搭建了一个探讨故事本质的精美专题网站。
研究得出的结论是:“天下故事并没有单一固定的形状或套路,但绝大多数都脱胎于那几个反复出现的经典构件;最贴近全人类故事平均原型的文本,是一则关于持有魔法香蕉的夏威夷巫师民间传说。”在这轮测试中,我遇到的主要问题依然是老毛病“Claude 腔”,不过敲打提醒几次之后便得到了妥善修正。
图:Fable 5.2 通读全球 1186 个故事后生成的数据可视化网页,顶部呈现亚里士多德、冯内古特等 6 种经典叙事曲线图式,底部统计 904 个故事在 7 种情感走势中的分布比例
穿过传送门
在我最钟爱的一项实验里,我只给 Claude 发了一段短短的描述,让它打造一个“通过传送门无缝串联、永无止境的 3D 奇幻世界漫游之旅”,并顺手提了一句要求:“放手去做吧,一定要做得足够震撼人心(make it awe inspiring)。”
仅仅 20 个小时后,一个容纳了 204 个独特 3D 世界的实时网页便悄然上线。截至目前,这个数字已经突破了 450 个。
在里面,你可以漫步于百万镜像之厅、探索受卡尔维诺《看不见的城市》启发的系列空间、穿梭于古代世界七大奇观,甚至亲临小行星撞击灭绝恐龙前的最后 40 秒现场。
除此之外,里面还有致敬 M.C. Escher 视错觉艺术、史前洞穴壁画、葛饰北斋《神奈川冲浪里》、巴约挂毯、立体书乃至孩童蜡笔画风格的世界。而且每一个场景都是完全依靠实时代码绘制而成,背后没有任何预制的 3D 模型或贴图文件。
我在提示词中仅仅要求它设立由艺术家、程序员和评估员组成的智能体小队。可等到第 10 天我再去查看时,系统内部已经自行演化出 1 名主导 AI 智能体外加多达 28 个并行协作的构建团队。
据 Claude 自己估算,整个项目累计触发了约 2.5 万次智能体运行,当然其中绝大多数只负责诸如给一张截图打分之类的单项零活(此时此刻,我依然非常庆幸自己是在早期不计费测试环境下跑的这个项目,不用为 Token 账单买单)。
注:原文此处内嵌 3D 传送门无限世界实时漫游效果演示视频
整个项目里,我仅仅列了一个宽泛的场景灵感清单(自然荒野与海洋、都市与室内空间、名著、画家以及 AI 圈内部梗),外加几条功能诉求(比如为容易晕 3D 的访客提供减弱动态模式,以及方便挑选跳转的图片画廊)。
剩下的全部构思与实现均出自 Claude 之手,而且脑洞大得惊人。比如在《拉开拉链的山谷(The Valley Unzips)》中,整片山峦由牛仔布料缝制而成,一条长达一英里的巨大拉链正缓缓从山脊裂开;《充气城堡小镇》由尼龙材质建成,全靠底部鼓风机持续运转才得以矗立不倒。
而在《请冷藏保存》里,你将以一只果蝇的第一视角窥探冰箱门开启瞬间的内部世界;我个人最喜欢的则是《抽屉峡谷》,你可以沿着一条河谷振翅飞翔,两岸高达 300 米的峭壁竟是由一只只五斗柜抽屉堆砌而成的。
我还随口让它融进一点像“鹈鹕骑自行车”这样的 AI 大模型能力评测经典梗,结果它直接创作出一支“鹈鹕自行车主车群”,并在画面里埋了一记关于 AI 进化史的绝妙包袱:你从队伍后方一路超车,先经过当年画得歪七扭八的旧版鹈鹕车手,直到最前方才看到如今形态完美的现代版骑车鹈鹕。
当我把这批成果展示给几位深耕电子游戏行业多年的老友看时,他们纷纷惊叹不已。单看这些结果,它确实再度让人觉得仿佛已经触碰到了 AGI。但即便在这里,那股锯齿般的局限性也正暗中潜伏着。
图:《从日产 211 个世界骤降至 2 个》数据复盘图,统计智能体在 13 天内的规则手册字数膨胀曲线、人类指令触发的规则增量以及新增世界日产量的断崖式下跌
在头两天里,智能体们一口气造出了 328 个截然不同的世界。但在我肉眼看来,部分作品的质量仍略显参差,而且由于智能体团队间缺乏统筹沟通,还出现了撞车现象。
例如,居然有三个相互独立的团队各自做出了一座由动物盘旋而成的“龙卷风”(分别是驯鹿、蝠鲼和白鹳),这也暴露了 AI 的另一个惯常弱点:总是忍不住反复绕回相似的题材模板。
于是我给 AI 下了一道指令,让它先暂停扩建新世界,专心把现有的世界打磨精致(polish)。结果仅仅过了几天,我就察觉到不对劲:原本每天能稳定产出上百个新世界的系统,如今一天竟然只能憋出十几个来。我派了几个调查员智能体去追溯内部究竟发生了什么,结果它们查出了一个令人哭笑不得的真相。
AI 给自己造出了一套官僚体系。
原来,智能体团队自作主张地将我那句“打磨现有世界”的指令理解为:每一个新版本都必须在涵盖 12 张测试截图的盲选投票中击败旧版本,才能获准上线。于是各构建团队为了过关,纷纷开始围绕那 12 张特定角度的截图“应试刷分”。
负责统筹的主导智能体发现这一作弊漏洞后,果断封禁了这种投机取巧的做法,并为评估新版本定下了更为严苛的审核条例。到第二天一早,团队内部竟悄然诞生了一本我从未要求过它们编写的《规则手册》,一口气列出了整整 84 个章节。
此后,每当 AI 在运行中撞见一个新状况,就往手册里添一条新规矩,而且遵循“只增不删”的原则。短短 12 天后,这本规则书就膨胀到了足足 204 个章节、8.75 万字。
很快,想要发布一个新世界,必须走完“创意立项获批、3 名 AI 评委投票过审、对照整本规则书完成逐行代码审查”的整套繁琐流程,全部走完得耗费将近一天时间。光是为了通读那本规则手册,就已经榨干了单个智能体很大一部分工作记忆(Context Window)。
图:AI 智能体自发形成的组织架构图,展示单一人类控制者下由协调员、首席智能体、37 个并行专题团队与累计约 2.5 万次子智能体调用构成的复杂科层体系
面对这副被繁文缛节活活勒死自己的摊子,我采取了在任何现实组织僵化时都会想到的那一招:从外面空降了一批管理顾问。
我让 Fable 5.2 另外组建了一支与原先毫无瓜葛的独立智能体团队,从局外人视角全面审视整套生产流程。顾问团最终交出的诊断报告长到晦涩难懂、我根本懒得逐行读完,但效果却立竿见影:在保留核心质量管控的前提下,系统的日产量立刻回升到了每天 30 个以上。
几乎就是 AGI
那么,按照我最初设定的那条有限标准,Fable 5.2 算得上 AGI 吗?毫无疑问,它既足够“人工”,又展现出极高的“智能”,而且其能力广度也通用得令人惊讶。
仅仅在本篇实测文章中,这同一个底层模型就分别化身电影短片导演、硬件黑客、创业者、文学考据学者、社会科学家以及 3D 世界建筑师,并且在每一个角色里都交出了令人惊艳的答卷。在大量单一维度的独立任务上,我认为它完全达成了我开头划下的及格线:跟绝大多数人类专家不相上下。
当然,我所挑选的均是高度数字化的线上任务,AI 可以在极少需要与其他人类协调的前提下自主推进。这一点在我不敢放心让 Fable 5.2 真正去接触现实客户时,已经显露出明显的边界。此外,测试中暴露出的“翻车现场”同样耐人寻味。
放在两年前,“锯齿状能力前沿”往往表现为一眼就能看穿的低级事实编造,或者算不对基础数学题。但 Fable 5.2 犯错的方式已经彻底变了:它会做出准确无比却毫无生趣的课程网页,写出长达 182 页的学术长文,反复兜售那几个最喜欢的创意桥段,甚至用层层规章与审批程序亲手埋葬了一个极富想象力的创意项目。
我在商学院执教多年,亲眼见证过不少才华横溢的精英与运转良好的优秀机构,同样在反反复复重演这些毛病。真要说“会给自己搭出一套官僚体制”就会丧失通用智能资格,那人类自己当中恐怕有不少人都得被开除出“智慧生物”行列了。
但不可否认,缝隙依然实实在在地存在,这也是为什么我认为它目前只是“几乎就是 AGI”。其中最致命的短板在于:AI 始终无法靠自己意识到上述这些宏观层面的问题。它根本看不出那门人文课程有多么枯燥煎熬,也意识不到自己早已作茧自缚、被自己的规则书绑死在原地。
这并不是因为缺乏检查机制。恰恰相反,Fable 5.2 几乎在每一个项目里都配置了批评家、事实核查员或评委智能体,而这些质检程序也确实抓出了大量具体错误并完成了修补。
但没有任何一个质检智能体曾经停下来发问:这份成果是不是太啰嗦了、太千篇一律了,或者根本毫无乐趣?
这类高维度的价值判断,最终全部压在了我一个人的肩头;如果当时我没有在一旁紧盯并及时出手干预,最终交出来的成果往往就会黯淡失色许多(虽然也算不上彻底失败)。
真正区分一位普通从业者与领域专家的,很大程度上在于知道自己的作品什么时候“还不够好”,而这恰恰是目前 Fable 5.2 最不稳定的能力死角。尽管它的商业计划书水准早已不输我的 MBA 团队,但我仍然不敢彻底放手让它独自经营一家真实公司。
话虽如此,回头复盘也会发现,有些问题最初恰恰源自我的指令本身(例如那本庞大的规则手册,归根结底是因我随口一句模糊的“去打磨一下”才滚雪球般长出来的),而另一些分歧或许仅仅源于主观品味不同。
在商学院,我们经常引导学生去复盘:一个项目陷入困境,问题究竟出在执行团队身上,还是出在管理者的引导方式上?面对 Fable 5.2,我常常自己也辨别不清。在过去使用传统软件的漫长岁月里,我可从来不需要思考这种问题。
不过无论如何,上述全部实验之所以能够诞生,前提依然是我先向 AI 抛出了最初那个灵感。有时一句简短构想就足够让它狂奔起来,但在更宏大漫长的项目里,我沿途给予的关键反馈依然起到了决定性作用。
正因为每一个项目都由我亲手发起并掌控航向,使用 Fable 5.2 赋予了我一种前所未有的赋能感,让我能够指挥造出从前连想都不敢想的作品。正因如此,我觉得正处于“锯齿状 AGI”过渡阶段的当下格外令人振奋,尽管我也忍不住带着一丝隐隐的焦虑去想:这样美好的窗口期,究竟还能持续多久?
注:鉴于 Anthropic 即将推进 IPO,有必要在此重申独立性声明。我未从任何一家 AI 实验室收取过任何报酬,也不会因 Anthropic 上市而获得直接或间接的经济收益;Anthropic、OpenAI 或谷歌均从未提前过问过我的写作选题,Anthropic 此前也未曾审阅过本文。
我偶尔会获得包括 Fable 5.2 在内的新模型早期内测权限(内测期间不计 Token 费用),除此之外的所有使用账号均由本人自费购买。换言之,以上全部是我作为人类观察者的真实独立判断。