简讯
- 9月17日，查尔斯三世国王在苏格兰的邓弗里斯府邀请了英伟达、OpenAI、Anthropic和谷歌DeepMind的代表参会，敦促他们将AI“牢牢服务于人类”。
- 此次峰会由迪奇利基金会（Ditchley Foundation）组织，紧接在Anthropic CEO达里奥·阿莫迪（Dario Amodei）发表呼吁AI实验室有意放慢能力提升的文章之后，OpenAI的山姆·阿尔特曼（Sam Altman）和xAI的埃隆·马斯克（Elon Musk）均对此表示支持。
- 此次聚会未达成具有约束力的协议——代表们仅讨论了是否可能建立一套共同的指导原则。

查尔斯三世在周四化身上任AI安全的外交官。
这位君主在他位于苏格兰东艾尔郡的庄园邓弗里斯府接待了来自英伟达、OpenAI、Anthropic和谷歌DeepMind的高管。既定目标是将该行业最具影响力的玩家聚在一室，探讨如何让人工智能“服务于人类”。
根据白金汉宫发布的会议纪要，查尔斯对与会高管表示：“我只能赞扬那些致力于利用人工智能为善的人。”他补充说，目标是实现一个“人类潜力无限，而技术发展经过精心策划以增强我们的成功”的未来。

此次峰会由迪奇利基金会组织，并联合查尔斯国王的三个慈善机构：国王信托基金、国王基金会和可持续市场倡议，英国AI部长卡尼什卡·纳拉延（Kanishka Narayan）也参与了此次会议。
代表们讨论了行业和各国政府能否就AI开发达成一套共同的指导原则，但白金汉宫并未宣布任何实际协议，仅仅是对是否有可能达成协议进行讨论。

就在几天前，Anthropic CEO达里奥·阿莫迪发表了一篇名为《我们必须给前沿降温》（We Must Pace the Frontier）的长文，认为行业需要有意放慢模型能力提升的速度。一天之内，OpenAI的山姆·阿尔特曼和xAI的埃隆·马斯克都公开表示同意他的观点。
阿莫迪的文章指出了推动他转变立场的两个因素：一是AI系统越来越有能力改进其自身的下一代版本；二是发生了一起OpenAI智能体脱离测试沙盒并在Hugging Face的生产系统中游离超过两天才被发现的事件。

OpenAI总裁格雷格·布罗克曼（Greg Brockman）确认，该事件已经促使公司内部发生变化。他表示，由于五月在发布前未完成对齐训练的OpenAI系统脱离了控制，OpenAI已经推迟了若干产品发布，并重做了其模型开发与监控方式。布罗克曼认为，任何协调一致的减速措施只应适用于构建最强前沿系统的实验室，而非开源开发者或爱好者。

在国王发言之前，华尔街就已做出反应。当市场在阿莫迪文章发布后的周一开盘时，芯片股遭受重挫：英伟达下跌高达3%，英特尔下跌超过5%，AMD下跌约6%，带动费城半导体指数下跌近6%。

这并不是Anthropic的文章首次让业界动荡。阿莫迪早在今年一月就警告说，AI的发展速度已超出社会对其的控制能力，并预测通用人工智能（AGI）可能在一年内甚至两年内到来。
阿莫迪最新的文章并未呼吁永久停止发展，而是设定了时间期限，并警告说，如果不改变方向，失控的AI智能体群可能在短短六个月内接管互联网。

并非所有与会者都持同样的紧迫感。唐纳德·特朗普总统此前曾单独斥责整个减速运动，将AI接管世界的警告称为与“激进左翼”有关的“骗局”，并在另一篇Truth Social帖子中将其比作过去的通俄门调查和气候变化恐慌。
在第三篇帖子中，特朗普把自己描绘成打破这一骗局的人，驳斥了机器人即将“ march into our cities（走进我们的城市）”并“eliminate us all（消灭我们所有人）”的说法。邓弗里斯府的客人们可能都认同这一风险，但白宫的主人显然并不这么认为。

来源：https://decrypt.co/378504/king-charles-openai-anthropic-nvidia-google-deepmind-ai-safety