Anthropic警告AI可能失控式提速，METR：7月就可能已经跨过红线！

contact@theblockbeats.org (律动BlockBeats)

动察 Beating AI 快讯，Anthropic 几天前刚在 IPO 招股书中警告，AI 可能很快跨过自我加速研发的安全门槛。现在，独立评估机构 METR 公布调查结果：这条预警线早在今年 7 月就可能已经被触及。

METR 花了 11 周调查 Anthropic 的内部研发数据，包括模型训练、算法改进、未发布模型的测试成绩和员工访谈。研究人员估计，截至今年 10 月，Anthropic 的模型在有明确评分标准的任务上，能力进步速度约为此前的 2 倍。相当于过去两年取得的进步，现在约一年就能完成。

这种加速主要来自哪里？METR 发现，训练算力的增长速度并没有同步加快。结合内部算法数据和员工访谈，研究人员认为，目前的加速很可能主要来自 Claude 参与 AI 研发。

METR 还重新审查了 Anthropic 今年 8 月发布的安全报告。当时 Anthropic 判断，AI 尚未让研发速度翻倍，因此没有触及安全门槛。但 METR 根据未公开的数据算出，其中一项研发进步指标的增速已达 1.97 倍，几乎正好踩在线上。更关键的是，Anthropic 的内部报告也承认，如果与完全不用 AI 辅助的情况相比，研发提速超过 2 倍并非没有可能。

因此，METR 认为，Anthropic 公开报告对加速程度的描述过于保守，不能排除 7 月就已触及预警门槛。不过，参与评估的双方研究人员多数仍倾向认为，当时尚未越线。这条门槛本身也只是提前预警，并不意味着 AI 已经失控。

METR 也没有发现未来一年内会明显拖慢 AI 研发的技术、算力或数据瓶颈。因此，研究人员认为，AI 进步速度还有进一步加快的可能。调查原本形成了约 100 页的完整报告，Anthropic 却删掉了公开版本中大部分最有参考价值的内部证据。外界目前很难独立复核这些结论。