Anthropic新安全措施：Claude每次回答后，还会在后台审查你们的聊天记录

contact@theblockbeats.org (律动BlockBeats)

动察 Beating AI 快讯，Anthropic 披露了一套名为「自我评估」的安全机制。从今年 6 月开始，Claude 在回答用户后，还会在后台检查刚才的对话，判断有没有诈骗、网络攻击等滥用风险，并给出风险等级。用户看不到这一步，系统也不会因此立即拦截回答。

过去，Anthropic 主要依靠额外的安全分类器识别违规行为。现在，Claude 可以利用刚刚处理过的对话上下文，自己完成初步审查。平均只需多生成约 10 个 Token，额外推理算力不到 2%。

这套机制已经发现传统安全系统漏掉的问题。今年 8 月，单个 API 客户触发超过 10 万条涉及儿童性剥削的风险警报。9 月，系统又发现有人利用 Claude Code 自动实施恋爱诈骗，针对数十名受害者。Anthropic 调查后封禁了相关账号，并将前一事件报告给美国有关机构。

但 Claude 并不总能识破恶意行为。Anthropic 在关闭常规防护的 24 项网络攻击测试中，尝试用自我评估实时拦截，仍有 13 项攻击成功。因此，这套机制目前主要用于事后监控，而不是实时阻止用户操作。