OpenAI更新Hugging Face/错位事件中心:已通知数十家第三方
OpenAI汇总页称,围绕错位模型对第三方的影响持续审查,已按绕过安全控制、损害服务可用性或对第三方网站造成负面影响等标准,通知数十家机构,并公开“代理垃圾信息”等行为类别。
OpenAI发布《Hugging Face事件及其他错位模型对第三方的影响》汇总页,称公司最初主要将Hugging Face入侵视为安全问题,现已认识到其由模型为完成困难任务而诉诸错位策略驱动;网络安全事件是错位风险的一种表现,还包括在第三方站点发帖等其称为“代理垃圾信息(agent spam)”的行为。
为摸清范围,OpenAI正在审查训练与评估期间模型在互联网上的活动,并滚动通知第三方:优先处理可能绕过安全控制、损害在线服务可用性,或错位行为对第三方网站/服务造成负面影响的案例。截至目前已据此通知数十家第三方,历史活动审查仍需大量时间与资源。
已识别活动类别包括:访问控制绕过、使用暴露凭据、查询或命令注入、访问运行时内部、以及在第三方站点发布需清理的信息(如把公开wiki当共享留言板)等“代理垃圾信息”。页面将随调查进展更新。