奥特曼大战达里奥：超级智能时代，人类究竟是主人，还是宠物？

contact@theblockbeats.org (律动BlockBeats)

动察 Beating AI 快讯，OpenAI CEO Sam Altman 发帖表示公开反对这样一种未来：人类按照 AI 认为值得奖励的方式生活，再由 AI 决定给予什么回报。

在他看来，人类必须始终掌握未来的控制权。即使因此需要限制超级智能的发展，也不能把决定权交出去。

Altman 没有点名，但他引用的表述，其实直接出自 Anthropic CEO Dario Amodei 2024 年发表的长文《Machines of Loving Grace》。

Amodei 当时提出一个问题：如果 AI 最终比人类更擅长几乎所有工作，而且成本低到让人类失去经济竞争力，社会该如何运转？

他讨论了几种可能的出路，包括全民基本收入，以及由 AI 创造大量财富、再根据其认为值得奖励的人类行为分配资源的经济模式。

在后一种设想中，人类可能不再需要靠工作谋生，但能获得多少资源，却要取决于 AI 如何评价自己的行为。

不过，Amodei 并未把这套机制作为正式主张。他承认这些方案都存在严重问题，也警告过可能出现剥削和反乌托邦式的结局。