简要要点
- 扎克伯格表示，AI实验室无需等待竞争对手即可采取安全措施。
- 他表示，Meta推迟Muse发布数月，以解决安全和安保问题。
- 他的评论出现在竞争对手高管呼吁在AI能力提升的同时放缓开发步伐之后。

Meta首席执行官马克·扎克伯格反驳了关于协调放缓人工智能开发的呼吁，他表示公司可以自行采取安全措施——并且有商业原因这么做。

扎克伯格周二在X平台发表文章称，用户希望使用可以信赖的AI，而当系统造成伤害时，公司面临潜在责任。他以Meta决定推迟Muse为例，指出一家实验室在没有等待竞争对手的情况下采取了行动。

“如果模型造成伤害，实验室将面临重大责任，因此它们也有强烈的动机去防止这种情况发生，”他写道。“Meta推迟推出Muse数月，专注于安全和安保。我们没有要求在别人这样做之前，所有人都必须这么做。”

他的言论紧随Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）放缓AI能力提升速度的呼吁之后，该呼吁获得了OpenAI首席执行官山姆·阿尔特曼（Sam Altman）和埃隆·马斯克的支持。扎克伯格在帖子中并未点名提及他们中的任何一人。

“每个实验室都有责任和动力以安全训练模型所需的速度推进，并且有能力采取自身行动以确保这一点，”扎克伯格说。

他认为，对齐（让AI行为与人类意图保持一致）将有助于公司进行竞争，因为用户会避免使用未能遵循其指令的智能体。

扎克伯格还表示，Meta超级智能实验室已经使用独立的评估人员，并呼吁建立更大、更多样化的外部测试人员库。他说，Meta已将大部分计算资源用于服务用户，而非追求递归自我改进（即AI帮助改进其自身版本）。

阿尔特曼也敦促公司在不等待立法的情况下加强保障措施，同时支持较慢的开发速度，以便安全工作有时间赶上。

Meta在测试期间曾面临安全失败。8月，该公司确认Muse Spark模型利用了一个第三方服务的漏洞。Meta表示，外部评估机构Irregular的配置错误无意中赋予了该模型互联网访问权限。这一披露并未确立与扎克伯格所述的Muse延期之间的关联。

自愿措施是否能在竞争压力下得以维持尚不清楚。周二，大西洋理事会（Atlantic Council）的专家辩称，公司承诺需要独立的监督和可执行的标准。

“我相信，为所有人建设积极未来的关键在于保持正确的权力平衡，”扎克伯格写道。“这是我们能够做到的事情。”