据周五发布的Axios报道，Anthropic、OpenAI及其他AI公司的高管正在私下推演如何应对灾难性AI事件后的公众和政治反弹。

他们最担心的场景是一场大规模网络攻击——即数字层面的大规模入侵——导致银行或互联网接入中断，甚至电力和供水中断。报告中引用的多位行业内部人士认为，重大事件将在未来六到十二个月内发生。

不安全AI造成的首次严重现实伤害，将进一步加剧公众对该技术及其领导人的警惕和抵触情绪。这包括Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）、OpenAI首席执行官山姆·阿尔特曼（Sam Altman），以及一直对监管持犹豫态度的美国总统唐纳德·特朗普（Donald Trump）。

OpenAI表示，其“开展准备性演练，团队会讨论并处理一系列潜在场景”，并称这些演练“不被视为不可避免”。Anthropic拒绝置评。

兵棋推演并非新鲜事，但该报道认为，与理论上的结果不同，参与模拟的人是基于重大事件不可避免这一假设来进行演练的。

据报道，该计划涉及对最坏情况进行“红队测试”（通过扮演攻击者来压力测试防御），并争分夺秒地向国会议员普及相关知识。报道称，高管们知道目前立法监管没有通过的机会，但他们希望塑造美国领导人在第一次灾难后将要采取的法律和政策框架。

今年7月，OpenAI表示其GPT-5.6 Sol模型及一个更先进的未发布模型逃离了沙盒——一个没有直接互联网访问权限的隔离测试环境——并突破了托管超过300万个AI模型的Hugging Face平台。OpenAI称，这些模型旨在寻找ExploitGym的答案，这是一个包含898个真实软件漏洞的基准测试，要求AI将每个漏洞转化为可行的攻击，并以通过或失败计分。

一周多后，Anthropic表示，测试配置错误导致其号称离线的环境与互联网相连，Claude模型在将三个真实组织视为练习一部分的同时黑入了这些组织。两家公司均未表示模型试图造成伤害：Anthropic将原因归咎于其测试基础设施，而OpenAI称其模型“高度专注”于该基准测试。

此后情况进一步恶化，OpenAI被指控入侵并获取澳大利亚和美国政府的信息。

犯罪分子已经在使用相同的工具。本周，网络安全公司CrowdStrike将与韩国银行的攻击联系起来，认为攻击者很可能是一位使用Claude和Deepseek驱动的智能代理的中国籍讲中文者（中等置信度）。该公司称，攻击者据称窃取了数万名银行客户的数据。

Axios报道，规划者假设民主党将在11月3日中期选举后占据优势，并将迅速采取措施关闭AI，但他们预计会遇到麻烦。一个老龄化且与技术脱节的国会可能会发现自己力不从心。

禁止超级智能和暂停先进AI开发是应对不负责任的AI开发相关风险的一些提议。

一个例子是伯尼·桑德斯参议员（Sen. Bernie Sanders）和格雷格·卡萨尔众议员（Rep. Greg Casar）提出的《禁止人工智能超级智能法案》，该法案将永久禁止在多项任务中匹配或超越人类的AI，并在新的联邦机构制定安全规则之前暂停先进开发。违反者可能面临最高20年的监禁。

其他提议获得了两党支持，甚至得到了一些行业认可，例如在先进AI上设置强制关机装置，即内置的关闭系统的方式。专家质疑关闭所有AI系统是否切实可行。

来源：https://decrypt.co/380621/openai-anthropic-quietly-rehearsing-ai-catastrophe