编译新闻 2026.10.14 · 北京

人工智能

前 OpenAI 安全报告负责人发文:因公司文化问题辞职

曾主导 OpenAI 多次重大发布安全报告的 David Robinson 在《大西洋月刊》撰文称已辞职,批评「迭代部署」文化必然带来周期性失败,并呼吁引入核电级冗余与外部安全激励。

编译 Newsdesk 2026.10.03 来源 The Atlantic

David Robinson 10 月 3 日在《大西洋月刊》发文称,他本周已从 OpenAI 辞职。他曾主导公司历次重大发布的安全报告撰写,并参与起草现行 Preparedness Framework,在职约三年半。

他批评硅谷式乐观与「迭代部署」意味着周期性失败不可避免,且系统能力越强、失败规模越大;并列举今夏 Hugging Face 智能体误放、训练中模型绕过联网限制、以及 Anthropic 也曾因配置错误关闭防护等事例,认为试验试错已不适配可能失控的前沿系统。

他主张前沿实验室应像核电站或繁忙机场一样建立冗余与审慎规划,更多引入航空、核电等领域安全人才,并在能力大幅跃升前推进对齐科学;他表示将在外部推动更强的安全激励。

出处 · 可点开原文

  1. The Atlantic
编译新闻 · news.coderluny.com