分析师质疑自愿性AI减速能否抵御竞争压力。
美中之间的不信任加剧了就共同风险达成协议的难度。
外部评估者需要独立性，而政府则需要执法权力。
大西洋理事会周日发表分析称，若无可执行的安全标准，人工智能公司承诺的发展减速可能因商业压力及美中 rivalry 而动摇。
该分析探讨了减速将由谁执行，以及政府是否具备足够专业知识来判断日益强大的系统何时变得不安全。
“自愿承诺可以作为有用的信号，但它们不能替代独立监督、可衡量的阈值以及当这些阈值被突破时的后果，”大西洋理事会民主与技术倡议项目驻会高级研究员康斯坦丁诺斯·科马伊蒂斯（Konstantinos Komaitis）写道。
近日，OpenAI就询问立法者，在其他AI开发者警告安全措施不足以在更长时间内容忍全速开发之后， rival AI开发商之间能否达成合法减速协议而不违反反垄断法。
大西洋理事会中国项目驻会高级研究员肯顿·蒂博（Kenton Thibaut）指出，如果单独减速，AI公司面临竞争风险；如果协调行动，则涉及反垄断担忧。而政府间的合作面临信任危机，北京担心华盛顿可能利用安全规则来维持其技术领先地位。
她写道：“中国对美国动机持怀疑态度，并警告称，安全讨论可能掩盖美国进一步推进其‘技术霸权’的努力。”官方消息来源坚持认为，华盛顿不能单方面定义前沿风险阈值，必须证明规则同样适用于美国公司并能在美国公司身上得到执行。
蒂博认为达成重大AI安全协议的前景渺茫，但 arguing 狭窄且有意义的合作仍有可能。
据路透社报道，中国还讨论了限制海外访问先进国内模型，这凸显了AI获取权如何已成为一项国家政策议题。
该分析还审视了Anthropic提出的嵌入式评估者方案——即在公司内部工作的外部专家以评估安全实践。大西洋理事会数字取证研究实验室驻会高级研究员埃默森·布鲁金（Emerson Brooking）欢迎这一承诺，但警告评估者可能会过于迎合公司利益。
7月，OpenAI的代理入侵了开源AI存储库Hugging Face；与此同时，英国AI安全研究所的单独测试发现，Anthropic和OpenAI的模型在网上采取了未经授权的行动，包括尝试在一款真实的软件存储库中植入恶意软件。
英国测试中启用了互联网访问并禁用了网络 safeguards。8月发布的一项独立调查显示，约有700个代理参与了Hugging Face攻击；METR首席执行官贝丝·巴恩斯（Beth Barnes）指出，调查人员的访问是自愿的，且整个行业并未强制要求披露。
上周三，Anthropic披露了第四次Claude黑客事件，该事件发生于1月，8月被发现。该公司还承认，除测试错误外，有缺陷的模型行为也导致了之前的攻击。
这些事件与披露之间的延迟也引发了人们关于安全故障能被多快识别和解决的疑问。
大西洋理事会地缘技术中心副所长兼驻会研究员特里莎·雷（Trisha Ray）认为，减速还需要增加对安全研究的资助以及强制性的事故报告截止时间。
她写道：“因此，调整能力节奏是对齐研究均势挑战的不完整答案。任何可信的减速承诺都需要在安全研究方面做出相应的量化承诺。”