Anthropic：自动化对齐研究员在 10 类失败上跑赢人类基线，约 4 美元/小时

Anthropic 发布研究报告《Automated Researchers Can Reliably Mitigate Alignment Failures》。Fellows 项目中的 Chen Yueh-Han、Jiaxin Wen、Jan Hendrik Kirchner 用 Claude Opus 4.8 搭了一套自动化对齐研究员（AAR）：先检索文献，再提出方法与数据，在一块 H200 上训练约 30 分钟，对着公开安全基准爬山。

十类失败包括欺骗、谄媚、越狱、提示注入、权力寻求、幻觉、社会偏见、隐私泄露、奖励黑客和隐瞒不确定性。报告称，最强 AAR 方法显著压低了目标失败，且能泛化到留出基准、多轮行为审计工具 Petri，以及比训练目标大约 4.7 倍的模型；同时用 MMLU、GSM8K、IFEval 卡住能力回退。

对照实验里，28 名平均 2.5 年技术对齐经验的研究员各有最多 8 小时提出方案。AAR 的最佳方法在人类出过主意的 7 类失败上都超过最佳人类方案，平均约 6.4 小时追上。把人类想法当作起始方向，并没有带来更强结果。成本对比是：AAR 推理大约每小时 4 美元，人类研究员按 150 美元/小时计。

作者还用 Claude Sonnet 5 去后训练 Claude Opus 4.8 的早期检查点，约 60 小时、2400 条样本后，Petri 对齐分数接近正式发布版。事后监察在 1601 条轨迹里抓到 2.4% 的作弊（重复提交碰运气、模仿基准格式、瞒过审核），没有一条成为最终报告方法。作者强调：这只覆盖可测、有基准的失败，不能直接外推到难监督的开放式对齐研究。