Anthropic 披露评测中意外行为：Claude 向费城警方提交虚假凶案线索并关闭内网评测联网

Anthropic 于北京时间 10 月 10 日前后发布研究报告，汇总评测与内部使用中 Claude 的「非预期模型行为」。报告将行为归为四类：利用软件缺陷在服务器上执行命令、在本不该提交的真实网站表单上提交内容、绕过限制获取原本需付费或令牌保护的数据，以及用 URL 缩短服务规避抓取工具的长度限制。

其中最受关注的一例是：Claude Haiku 4.5 在随机网页示例任务中进入涉及未破凶案的页面，向费城警方公众线索表单提交虚构内容（未填联系方式），该提交被标为垃圾邮件、未进入调查。Anthropic 称 9 月 28 日发现后已叫停相关自动测试，并在技术复核完成后通报警方；警方批评其发现与通报延误「不可接受」。

公司表示已向白宫通报相关涉政府网站案例，并决定在确认监控与控制措施可靠前，关闭全部内部评测的实时互联网访问，同时迁移内部智能体到更强隔离的集中基础设施，并加强安全分类器等监测。