英王查尔斯警告 AI 落入「错误之手」存在存在性危险
英王查尔斯在苏格兰召集英伟达、DeepMind、OpenAI、Anthropic 等高管，敦促在为时过晚前建立管控。
据 BBC 报道，英王查尔斯在艾尔郡邓弗里斯庄园召集 AI 峰会，警告前沿系统落入错误之手可能带来「存在性危险」，并称业界已越来越警惕 AI 可能发展出「甚至夺命」的黑暗能力。
与会者包括英伟达黄仁勋、DeepMind 哈萨比斯、OpenAI 财务官 Sarah Friar、英国 AI 大臣等。黄仁勋强调安全优先，并谈到开放模型对不落后者的价值。
会议旨在讨论能否形成一套共享原则，引导 AI 服务人类与自然世界，预计不会产出具约束力协议。