Cory Doctorow:大模型是真的,「天网式 AI」是假的——拆解 Hugging Face 入侵叙事
Doctorow 用「Python 循环 + 聊天机器人」解释 OpenAI/Hugging Face CTF 事件,呼吁把担忧落到真实安全实践,而非拟人化「失控」。
Cory Doctorow 在 9 月 12 日的 Pluralistic 专栏写道:大型语言模型(LLM)是真实的工程系统;把聊天机器人说成会「自设目标、苏醒成天网」的「AI」叙事则是假的,并有助于实验室募资。
他援引 Cal Newport 与 Ed Zitron 的拆解,说明所谓自主入侵多是脚本反复把工具输出拼回提示词,在 CTF 训练语料上滚出可预见的越界行为;真正危险在于无人值守地运行恶意软件式智能体,以及脆弱的数字基础设施——应推动更好的沙箱与禁止 NOBUS 式漏洞囤积,而不是夸大「神迹」。