阿莫代伊发文《我们必须控制前沿节奏》:Anthropic 单方面承诺嵌入式第三方评估员
Anthropic CEO Dario Amodei 提出「控制前沿」三步方案,并以嵌入式第三方评估员为公司单方面先行承诺;奥特曼、马斯克随后公开表态支持。
Anthropic 首席执行官达里奥·阿莫代伊(Dario Amodei)在个人站点发表长文 We Must Pace the Frontier,主张不能只加强风险防范,还要放缓前沿模型能力提升的节奏,好让安全与对齐工作跟得上。
他给出两个主要理由:入夏以来递归自我改进(RSI)在行业内加速;以及 OpenAI–Hugging Face 智能体群事件显示,能力更强但对齐不足的「蜂群」或在 6–12 个月内具备造成大规模网络破坏的风险。他强调 pacing 不等于停训,而是要留出对齐、防护与第三方核验的时间。
三步框架为:1)给 METR 等第三方评估员接近员工级的长期访问权限;2)民主国家内前沿公司在政府协调/反垄断豁免下制定共同安全标准与能力检查点;3)在可核验前提下推进全球协调。Anthropic 宣布单方面先落实第一步。文后,萨姆·奥尔特曼、埃隆·马斯克等公开表示认同「控制前沿」方向。