旧金山观察：人类将未来交给 AI，即使在最乐观的设想里自主权都所剩无几
作者：Ruxandra Teslo
编译：深潮 TechFlow
深潮导读：当人工智能的研发前沿在旧金山以惊人的加速度狂飙突进，技术奇点、递归自我改进与超级智能（ASI）的到来似乎已从科幻推演变成了实验室工程师们口中近在咫尺的既定日程。然而在这片狂热的震源地，一种奇特而致命的宿命论正在从业者之间悄然蔓延。
在这场关乎文明未来的博弈中，不仅存在令人胆寒的灭绝恐慌，更涌现出一种被美化为最佳出路的“移交主义”：即认定人类注定无法掌控终极智能，理应放弃主权与劳动价值，退居为机器神祇抚育的附庸。
作者从托克维尔、阿伦特与波普尔的思想脉络出发，尖锐拆解了这种将文明主权永久让渡给机器的乌托邦幻象，直言在历史的关键十字路口，我们绝不应轻易交出属于人类的未来与自由意志。
“这并非我最期待的结果，”一位在头部 AI 实验室从事前沿模型研发的工程师告诉我，“但一旦我们实现了超级智能，既然在现阶段已经无法阻挡，我实在看不出人类未来还能有其他出路。”
他口中所指的结果，是人类永久丧失自我掌控的权力，我们将共同受制于一位（但愿是仁慈博爱的）AI 神祇的绝对统治。
令人震惊的是，他在谈及这一宏大命题时显得异乎寻常的平静与随意，那种语气就像是在平淡陈述潮汐涨落一般自然。
稍作停顿后，他又补充道：“不过，这总比我真正最恐惧的结果要好得多，因为我最担心的其实是我们全人类都会走向毁灭。”
这番话之所以极具冲击力，是因为它绝非出自边缘的末日论者或天然抗拒技术的怀疑论者。相反，它恰恰来自正在一线亲手打造这套系统的大厂核心开发者。
他的言语间充斥着宿命般的顺从，仿佛“人类究竟还有何用处”这一存在主义终极问题，早已在其他地方被其他人盖棺定论。摆在我们眼前的，似乎只剩下坐以待毙，静候既定命运降临。
我搬到旧金山仅仅三周。按这里的普遍共识，当下正处于技术奇点全面爆发的前夜。在这短短时间内，我已真切意识到这种思维方式在圈内绝非孤例：事实上，将人类的终极控制权拱手让给一个仁慈的超级智能，已被许多人视作不可多得的较好结局。
之所以需要警惕，是因为呼啸而至的奇点正在展现出无比逼真的现实质感。其最关键的分水岭在于“递归自我改进”（RSI）的前景：AI 系统开始学会自我迭代与进化，下一代系统孕育出更强大的系统，直至彻底演化为超出人类掌控极限的超级智能。
在旧金山的诸多社交圈子里，人们谈论 RSI 的口吻，仿佛它距离我们仅仅剩下几个月的时间。甚至有人认为会更短。在这般节奏下，一个人甚至都来不及给自己的公寓挑选一套合适的家具。
按照常理，当我们依然对技术演进方向保有一定决定权时，理应清晰勾勒出我们究竟希望这些机器为人类文明服务的目标。既然开发者自身都在反复警告物种灭绝的极端风险，人们自然有理由期待一份更加清晰美好的远景承诺。
最悲观的极端图景早已人尽皆知：全人类或极大部分人口走向灭顶之灾。但在我看来，即便在那些号称最乐观的设想中，所能提供给普通人的宽慰也同样少得可怜。
其中一种广受推崇、表面上极具乐观主义色彩的设想被称为“移交主义”（Handover）：人类自愿将未来的主导权禅让给神祇一般的超级 AI，从此安居于一个不再由自己决定航向的舒适避难所中。
在这样的未来图景里，民主的实质意涵将彻底瓦解，绝大多数人类在面对这种制度性确立时，甚至从未有过表达同意的机会。
人类劳动被永久替代在这里被视作既成事实。然而，对于人类究竟如何继续在彼此之间发挥价值与意义，却没有给出任何令人信服的解答。甚至连人与人之间的真实关系也变得飘摇不定。
我不知道移交主义的愿景最终是否会成为现实。身处技术研发一线的造物者们认为它切实可行甚至值得向往，但这并不构成任何保证：身处技术中心往往并不意味着能准确预判其对人类社会的深远震荡。
然而，他们毕竟是离这头巨兽最近的人，他们的所思所想理应受到严肃对待。主流社会如果一味将其轻佻斥为炒作噱头，选择袖手旁观，将是极具风险的失责。
有人甚至坦然接受人类的终局
在眼下的旧金山，如果依然坚持探讨“人类的蓬勃发展”，听上去几乎显得有些不合时宜的放纵，宛如在饥荒年代抱怨甜点不够精致。
在真正看清技术轨迹的核心圈层内部，盲目乐观的情绪早已荡然无存。让人类在即将到来的技术海啸中勉强苟活，已经被定义为一项相当崇高甚至艰巨的目标。谈及人类灭绝概率（p(doom)）的对话不绝于耳，许多人给出的估值都在 10% 甚至更高。
局外人或许天真地以为，大家至少在“避免人类灭亡”这一底线上存在基本共识。但事实远非如此。部分群体甚至已经放弃了生存目标，坦然接纳甚至暗自欣迎人类作为生物物种的谢幕。
以 Ginevra Lily Davis 的论著《硅人》（The Silicon Man）为例，她深入调研并记录了这一极端哲学立场的蔓延：即认为由硅基生命接替碳基人类是宇宙演化的必然终章。
对于那些将人类毁灭视作解脱与终极归宿的人，我无意展开争辩。因为一旦彻底抽离了对人类生命的珍视，任何基于人本主义的逻辑推演都将失去立足的基石。
我更希望对话的，是那些依然坚信人类应当存续、却正一步步滑向移交主义泥潭的造物者与见证者们。
即使人类幸存，也可能丧失一切自主权
在认同人类应当继续生存的阵营内部，对于人类未来究竟应当拥有何种生存状态，同样存在着巨大的分歧与妥协。
Scott Alexander 近期发表的一篇探讨未来图景的长文提供了一个极佳的切入点。该文的核心前提在于：只要能确认超级智能不会毁灭人类，文明便可以平稳迈向一个被精心照料的崭新阶段。
这一思潮尚未形成纲领严密的政治组织，但在旧金山的技术精英圈层中，暗中抱持或默许移交主义立场的比例，保守估计已经占据相当一部分比重。
移交主义背后的心理动因同样盘根错节。其中一个流派堪称“技术救世派”：他们对纷繁复杂的人类现实政治感到彻底绝望，因而将希望全盘寄托于一个不受人类狭隘偏见污染的终极仲裁者。
第二个阵营则是纯粹的“宿命屈从派”：他们未必发自内心渴望将主权拱手相让，只是在递归演进的超级算力面前，认定人类除了乖乖交出钥匙以外别无选择。
不同阵营对于交权之后人类究竟沦为什么样的角色，设想也各不相同。最具代表性的比喻，莫过于将人类视作未来超级智能的“家养宠物”（House Pets）：虽然衣食无忧、备受呵护，但在重大决策上毫无参与发言的权力。
Anthropic 首席执行官 Dario Amodei 的公开表述则代表了另一种技术官僚式的折中图景。他在近期长文中描绘了一种“人机控制论共生生态”，试图在机器主导的架构下保留某种人类参与感。
然而这种构想带有鲜明的卢梭式浪漫主义色彩：它假定在机器彻底接管所有硬核问题后，人类便能返璞归真，投身于纯粹的艺术探索与精神愉悦。
OpenAI 首席执行官 Sam Altman 近期的公开姿态同样发生了微妙变化。尽管早年他曾高调警示超级智能对人类自治的侵蚀，但如今其论调已逐渐转向强调技术普惠所带来的无尽丰裕。
其他部分 AI 实验室领导者虽然在公开场合明确拒绝交权主义的极端表述，但当被追问到具体实施路径时，却往往只能给出语焉不详的敷衍回应。
与此紧密相连的是对劳动力价值的终极诘问。在彻底消除人类劳动的社会构想中，全民基本收入（UBI）成为了几乎唯一被反复兜售的万能灵药。
但这种由机器施舍分配的经济模式，从根本上回避了一个核心问题：人类究竟该如何维系彼此之间的互助纽带与社会尊严？当所有创造性与建设性职能都被剥夺殆尽，金钱补偿根本无法填补存在意义的坍塌。
为什么“移交主义”是一个极其危险的错误？
必须深刻认识到，将人类主权与文明未来永久让渡给机器，无论描绘得多末美好，本质上都是一场极其危险的倒退。
首先，我坚定捍卫人类自我决定的神圣权利。正如托克维尔在《论美国的民主》中所深刻揭示的那样：自由并非抽象的概念，而是在日常生活的自主管理、结社互助与共同探索中不断锻造的品德与能力。
托克维尔曾前瞻性地警告过一种看似温和仁慈、却会悄然剥夺人们独立思考与生活责任的父权式监护统治。而移交主义所勾勒的超级 AI 统治，无疑是这种软性极权的最极端变体。
其次，即便纯粹从实用主义与现实结果来审视，移交主义的治理设想在工程上同样无法自洽。移交主义成立的前提，在于 AI 对齐（Alignment）能够成为一劳永逸的永久状态。
但人类历史上一切能够稳定回应需求的制度架构，无一不是建立在数百年试错修正与动态制衡之上。一旦人类交出所有制约权，没有任何机制能确保这种绝对权力在长周期内始终与人类福祉保持一致。
再者，将所有矛盾寄托于终极威权来一揽子化解，在政治思想史上向来拥有极度危险的先例。卡尔·波普尔在《乌托邦与暴力》中曾一针见血地指出：将政治组织围绕某种终极蓝图展开，必然会将正常的现实分歧视作必须抹除的阻碍。
波普尔强调，通过开放批评与渐进式改良来解决具体问题，才是人类文明实现真正进步的可靠路径。
最后，最令我深感不安的是这种移交所带来的绝对永久性。凭什么 2026 年的技术认知，要成为全人类未来文明的永恒宪纲？
正如汉娜·阿伦特所言，生命的意义在于“行动”与“新生性”（Natality）：每一个新生命的诞生，都带来了在既有世界中开启崭新篇章的无限可能。人类文明之所以生生不息，恰恰在于一代又一代人能够依照自身意志不断重塑未来。
将后代子孙禁锢在由机器神祇定格的琥珀之中，等同于剥夺了他们作为人类的与生俱来的权利。在历史的关键十字路口，我们依然握有选择的权利，绝不应将属于人类的未来轻易拱手相让。