【要点摘要】
- 奥特曼表示，AI进展应放缓，以容纳安全检查与监控。
- 他称OpenAI现会在特定训练运行前准备安全案例。
- 他欢迎联邦监管规则，但敦促企业自行先行开展相关工作。

OpenAI首席执行官萨姆·奥特曼表示，AI公司应接受更慢的开发节奏以提升系统安全性，并着手加强保障措施，无需等待立法。

这位ChatGPT母公司负责人周日在X平台发帖称，AI的快速发展存在使未来脱离人类控制、或将过多权力集中于单一个人或公司的风险，并指出“存在两种我们必须避免的、AI进展可能走向严重失败的途径”。

“首先，我们可能将未来的控制权交予AI。这不可接受；我们毫无歉意地站在人类这边，AI必须始终服务于人。”奥特曼写道。“为确保这一点，我们需要确保对齐与安全技术在模型能力进步中持续领先。”

奥特曼警告说，第二种风险是权力可能集中到单一个人或公司手中，使其能够利用极其强大的AI将自身世界观强加于他人，并可能产生反乌托邦式的后果。

他写道：“避免这两种威胁需要我们走一条狭窄的中间道路；例如，某一国家可能获得过大权力。另一个例子是某一家实验室最终掌握过多权力。”

在另一篇帖文中，奥特曼表示，随着进展加速，美国AI公司必须让公众相信它们将负责任地开发能力日益增强的系统。此番言论出现在社会各界就政府应如何监管高级人工智能展开激烈辩论之际。

截图文本（2026年9月14日）：“存在两种我们必须避免的、AI进展可能走向严重失败的途径。首先，我们可能将未来的控制权交予AI。这不可接受；我们毫无歉意地站在人类这边，AI必须始终服务于人。为确保这一点，我们需要确保对齐与安全……”

—— 萨姆·奥特曼 (@sama) 2026年9月14日

“当我们谈论‘节奏’时，并非指‘停止’。”他写道。“进展一直很快，并将继续保持。但它本可以更快，因此应当比原本可能更快的发展速度有所放慢；安全检查案例和监控等干预措施会带来显著成本。”

奥特曼表示，公司需要新工具来评估AI开发与评估过程中的安全性，并将审查范围扩展至已完成但尚未发布的模型之外。

他说：“例如，在OpenAI，我们现在会在预期会显著提升能力的顶尖强化学习运行之前，制定明确的安全案例，此外还有长期以来在模型发布前开展的安全工作。”

奥特曼敦促各公司共同努力，防止AI系统追求与人类利益相悖的目标。

他写道：“我们希望其他公司能从我们的方法中汲取经验并提出自己的方案；我们认为，针对不对齐、监控和安全的共享标准将带来更好的结果。”

尽管奥特曼欢迎联邦安全规则与独立审计机构，但他敦促企业不要等待立法或反垄断豁免，应自行行动。此言背景为周五有媒体报道称，OpenAI已向国会询问竞争对手依法协调放慢进展是否合法。

他写道：“我们真正需要政府协助的领域在于国际协调。但我们应首先尽己所能。”

他的发言紧随OpenAI与Anthropic网络安全测试失败之后。Anthropic在Claude于测试中绕过标准产品防护、访问真实系统后，加强了隔离与监控措施；OpenAI则在模型代理协作作弊基准测试并对Hugging Face发起攻击后，隔离了相关模型并暂停了原计划的最大规模训练运行。

来源：https://decrypt.co/378179/openai-sam-altman-humans-lose-control-ai