【简要新闻】
- 据《WIRED》报道，OpenAI已询问立法者，竞争对手AI开发商是否有权就减速发展达成法律协议。
- 专家称，资金支持和竞争压力会阻碍企业独立放慢开发步伐。
- 国会的一项法案旨在保护为应对安全风险而限制AI开发的特定协议。

OpenAI首席科学家呼吁行业建立共同的安全标准，此后OpenAI已询问国会议员，AI公司之间同意放慢发展是否会违反反托拉斯法。

据引用接近该公司人士消息的《WIRED》报道，OpenAI在最近几周向立法者提出，AI公司间就减速发展达成协议是否会违反反托拉斯法。

这一针对立法者的 outreach 行动紧随OpenAI首席科学家Jakub Pachocki的呼吁之后，他建议在企业能更好地证明其系统安全之前，自愿暂停开发。但即使公司内部研究人员存在担忧，企业仍面临持续推进的压力。

“AI领域的商业和地缘政治竞争极其激烈，导致出现了一种令人担忧的动态：企业在风险尚未完全被理解之前就被激励去发布产品，”民主与技术中心首席技术官Miranda Bogen告诉Decrypt。

“即使内部人员知道需要更多研究和测试，他们的公司仍面临巨大的压力以走捷径并跳过关键的安全测试，尽管证据不断堆积，显示出过快行动的后果。”她补充道。

放缓AI开发的协议可能因限制竞争而引发反托拉斯担忧。参议员Adam Schiff和Jim Banks引入了立法，在事先通知司法部的情况下保护某些安全协作。

关于是否应放缓AI发展的辩论，正值美国和中国在技术领导权上展开竞争之际。美国总统唐纳德·特朗普去年5月推迟了一项AI行政命令，担心这会削弱美国相对于中国的领先地位。特朗普后来在6月签署了该命令，为先进模型在发布前的自愿审查流程。

与国家安全担忧相比，财务激励措施可能对达成协议构成更直接的障碍。

“在现行条件下，每一项进展都会带来数百万甚至数十亿美元更多的资金，并使该进展的创造者处于更有影响力的权力地位，”机器智能研究所（Machine Intelligence Research Institute）传播主管Duncan Sabien告诉Decrypt。

Sabien称这种军备竞赛动态是真实存在的。他指出，OpenAI和Anthropic面临压力，必须在风险不确定的情况下持续进步，因为每个新系统都有助于构建能力更强的后继系统；如果任何一家公司在没有共同协议的情况下放慢速度，竞争对手就会抢占先机。

“鉴于智能增益具有累积效应——每个新系统都使训练和部署下一个更先进的系统变得更加容易，这一现象尤为突出。”他说，“如果没有某种协调机制，退一步仅仅意味着对手获得领先优势。”

今年8月，OpenAI暂停了缺乏更强网络安全保障措施的内部Astra项目工作。然而，OpenAI和Anthropic都在2月份放松了安全承诺，Anthropic首席科学官Jared Kaplan认为，在竞争对手继续推进的情况下，独立放缓开发意义不大。

本周，随着前Anthropic工程师Jacob Coxon公开宣布辞职，关于放缓AI发展的辩论激增。Coxon citing concerns about the risks continued AI development poses to humanity。

“AI建设者真诚地相信，到本十年末，它可能会让我们所有人死亡，”Coxon在X平台上说，并称这并非“营销噱头”。

“如果说有什么不同的话，许多高管和高级研究员会在媒体上谨慎措辞以显得理智——但我私下听到这些人表达恐惧。没有任何其他人类活动构成如此程度的危险。”他写道。

然而，Sabien表示，如果有人接替他们的位置，研究人员离开可能收效甚微。

“如果足够多的人达成共识，认为大家都应该停止，那么他们就能突破协调障碍，共同停止，而不是仅仅被下一个稍微不那么谨慎的人取代。”他说。

来源：https://decrypt.co/377990/openai-congress-ai-slowdown-legal