商业内幕：Anthropic 与 OpenAI 员工公开谈灭绝风险与放缓
继 Anthropic 研究员辞职示警后，两家实验室多位安全与对齐人员在 X 上公开讨论灭绝概率、监管与放缓必要性。
《商业内幕》汇总了 Anthropic 与 OpenAI 员工近期围绕 AI 安全的公开表态。前 Anthropic 预训练研究员雅各布·考克森辞职后称，两家公司在「竞速奔向可自我改进的超级智能，拿我们的生命赌博」。Anthropic 对齐科学负责人埃文·休宾格回应称，他个人认为未来十年内 AI 杀死全人类的概率超过 10%。
文中还引述 OpenAI 安全监督团队成员马库斯·威廉姆斯等多人观点，包括在缺乏监管或实验室协调放缓时灭绝风险「很高」，以及保罗·克里斯蒂亚诺关于若无更稳健对齐将永久失控的警告。文章同时收录了部分认为 AI 将极大造福人类的员工意见。