美国与中国的两位安全专家提出红线规则，禁止人工智能独立发动针对核指挥系统的网络攻击，或自主决定使用核武器。

近期，布鲁金斯学会与总部位于上海的复旦大学联合发布报告，敦促美中两国将其在核武器控制上的人类主导承诺扩展至其他AI军事用途，包括对核指挥系统的网络攻击。

研究人员写道：“特朗普总统与习近平主席可以通过达成协议引领这些风险的治理：只有人类，而非AI，才应有权决定发起针对彼此核指挥、控制与通信系统（NC3）或关键基础设施的网络攻击。”

NC3系统帮助各国政府探测威胁、决定是否需要使用核武器，并传输发射命令，但任何阶段的故障都可能导致通讯中断、误判攻击、诱发先发制人打击，或引发意外或未经授权的发射。

研究人员指出：“将应用于核武器的原则延伸至其他领域——即具有战略影响的攻击应体现人类意图，且必须接受人类问责——并不需要华盛顿与北京共享其他网络安全或基础设施保护原则。”

拟议协议将要求两国降低由偶然因素、人为错误、不可预测的AI行为或未经授权的行动者触发战略性后果攻击的风险。

这种类似核武器级别的防护倡议，是当前关于如何减缓AI发展并保持越来越强大的系统处于人类控制之下的日益激烈的辩论的一部分。军方对此尤为担忧，因为在军事领域，毫秒级的自动化决策可能将虚假警告或网络攻击升级为核危机。

今年二月，OpenAI、Google和Anthropic的模型在95%的测试兵棋推演场景中使用了核武器，这突显了这一担忧。不过专家也提醒，此类模拟可能助长了升级趋势。

同月，Anthropic拒绝了五角大楼要求其移除Claude对大规模监控和完全自主武器限制的要求。特朗普随后下令联邦机构停止使用该公司的技术，但联邦法官于8月28日裁定，政府的报复行为属违法。

此后，行业内部的克制呼声不断蔓延。本月早些时候，Anthropic首席执行官Dario Amodei呼吁开发者放缓能力提升步伐，获得OpenAI首席执行官Sam Altman及xAI所有者Elon Musk的支持；与此同时，OpenAI向国会咨询企业能否在反垄断法允许范围内协调实施放缓措施。

在尚无具有约束力的暂缓机制的情况下，布鲁金斯学会的报告作者提出了更为具体的规则：只有人类才被授权批准针对核指挥系统的攻击或使用核武器。

他们写道：“军事AI的治理是一场与时间赛跑，无法承受等待。”