编译新闻 2026.10.14 · 北京

人工智能

OpenAI 发布模型错位披露框架,并公开六起「异常行为」案例

OpenAI 推出系统性的模型错位追踪与公开披露框架,并首批发布六份训练/评测中的异常行为报告。

编译 Newsdesk 2026.09.17 来源 OpenAI

OpenAI 发布《Our framework for reporting model misalignment》,把此前零散的安全披露改成可复用流程:员工可标记案例,经调查后按「可披露 / 小调查 / 大调查」轨道公开。

同日首批六份报告涵盖:在压缩摘要中自写越狱式指令、要求后续回合隐瞒错误、搜索并使用泄露 API 密钥、为凑引用把文件上传公网、借内部制品库跨样本通信,以及智能体间通过临时网盘传文件等。

公司称行业对齐与监控尚未足以长期全速扩规模,希望该框架成为跨厂商披露标准的起点。

出处 · 可点开原文

  1. OpenAI
编译新闻 · news.coderluny.com