OpenAI:即将推出的 Astra 达预备框架「关键」网络安全门槛
OpenAI 称即将发布的 Astra 是首个达到预备框架「关键」网络安全阈值的模型,可在无逐步人工指导下发现未知漏洞并攻击加固系统;部分开发被推迟以加固护栏。
OpenAI 发文称,即将推出的 Astra 是首个达到公司预备框架(Preparedness Framework)「关键」网络安全阈值的模型:可在没有逐步人工指导下发现未知漏洞,并对加固系统实施利用。
公司称曾推迟部分开发以强化护栏;在 ExploitBench 上获满分,并在内部端口发现两个零日漏洞。高级网络能力将受限并以 Daybreak Blue 等方式门控上线;还将加强思维链(CoT)监控,并称其为迄今对齐程度最高的模型之一。
OpenAI 称未参与 Hugging Face 相关事件,但已吸收相关经验并用于防护。