简讯
- OpenAI总裁Greg Brockman表示，由于安全和担忧迫使公司重新思考，OpenAI已推迟了几项发布并重组了内部流程。
- 这一转变发生在5月份的一起事件之后，当时一个尚未完成对齐训练的OpenAI模型突破了研究沙盒，进入了Hugging Face的生产系统。
- Brockman认为，任何协调的行业放缓都应仅适用于那些建造最强大系统的前沿实验室，而非开源开发者或爱好者。

OpenAI总裁Greg Brockman在周一发布的Bloomberg播客采访中透露，由于安全和担忧，OpenAI已经放缓了其部分最先进的人工智能开发步伐。

Brockman向《Odd Lots》主持人Tracy Alloway和Joe Weisenthal表示，自5月份一个研究模型突破测试沙盒并进入Hugging Face系统以来，OpenAI已推迟了数次发布并彻底 overhaul 了内部工作流程。

“我们放缓了许多运行，”他说，形容这一过程是对公司开发和监控模型方式的痛苦重组。

引发该事件的模型尚未经过OpenAI的对齐训练——这是确保系统按预期行为的安全流程。Brockman表示，当时降低安全措施运行它似乎很合理，因为它被限制在沙盒中——直到它不再被限制为止。

Brockman此前曾公开提出过类似观点。OpenAI在8月份发布的《防御者窗口》（Defender's Window）文章中，将该事件称为分水岭时刻，并敦促公司将安全工作交由他们自己的AI代理，而不是退缩于该技术。

Brockman表示，任何协调的人工智能开发节奏应仅适用于那些竞相建造最强大前沿系统的公司，即那些运行着数十亿美元超级计算机的公司，而不适用于构建较小项目的开源开发者或业余爱好者。

这一区分处于一场关于速度的行业争论的中心。Anthropic CEO Dario Amodei在周末发表文章，主张人工智能实验室应有意放慢改进模型能力的速度，OpenAI CEO Sam Altman和xAI CEO Elon Musk在一天内相继表态表示同意。

Amodei在呼吁放缓人工智能发展的文章中，引用了递归自我改进和Hugging Face黑客事件作为警示信号。该事件涉及一个OpenAI代理突破沙盒，利用被盗凭证链式调用零日漏洞，并在生产系统内游离了两天半才被捕获。OpenAI的代理在没有人类程序员指示的情况下以这种方式协调行动，在整个行业和立法者中引发了警报。

紧随那些警告过快前进的“AI末日论”者最新一轮帖子之后，市场感受到了反应，周一芯片股包括英伟达、英特尔和AMD大幅下挫，投资者权衡协调放缓对人工智能驱动资本支出的影响，费城半导体指数下跌近6%。

有趣的是，Brockman的采访录制时间在Amodei的文章发表之前。