在立法者和人工智能(AI)高管推动限制措施之际,自由意志主义智库卡托研究所警告称,由政府强制实施的AI研发暂停可能会使主导企业免受竞争威胁,并延缓有益技术的发展。
周一,该智库的 tecnología政策学者珍妮弗·哈德尔森在博客文章中提出,企业可以通过自愿的安全保障措施和共享标准来应对特定危险,而无需中断整个行业的研发。
她写道:“政府强制的暂停将引发若干担忧,且很可能无法实现其声称的安全改进。”她补充道,政府规则的制定缓慢,修改更是缓慢。“基于当前模型建立的监管框架可能会阻碍未来的发展,从而妨碍出现更好或更安全应对措施的可能性。”
哈德尔森承认AI存在风险,但警告称,围绕领先开发商制定的规则可能会帮助他们巩固权力并限制竞争——这是一种市场俘获形式,将使小公司更难参与竞争。她还指出,暂停美国的研发可能会削弱网络安全防御能力,而外国竞争对手仍在不断前进。
她的评论出现在参议员伯尼·桑德斯和众议员格雷格·卡萨尔提出的一项提议之后,该提议要求在建立联邦安全标准之前暂停先进AI研发,并永久禁止人工智能超级智能;与此同时,OpenAI首席执行官山姆·奥特曼支持放缓研发,并敦促公司在等待他支持的联邦规则时加强保障措施。
哈德尔森写道:“许多此类呼吁都伴随着关于最坏情况的科幻式末日场景。”“然而,出于恐惧而匆忙监管,其长期负面后果可能比其所声称要解决的风险更为严重。”
周一,Block公司董事长兼联合创始人杰克·多西在X平台发帖,表达了对竞争的类似担忧。
多西写道:“主导机器智能的公司值得被倾听。他们拥有专业知识以及需要保护的商业利益。”“围绕其资源制定的规则可能会使它们成为唯一能够参与的公司。对安全的真诚关注仍可能产生市场准入壁垒。”
多西表示,他支持向研究者开放发布,允许其检查、修改和测试模型,并公布评估结果和已知局限性,以便外部人士能够挑战开发者的安全声明。
他写道:“我支持审查。我反对由当今领导者协商的行业-wide限制,因为它们可能会排除那些可能揭露失败或建立替代方案的人。”“维护公司的商业优势并非安全目标。”
在多西的帖子中,他还表示支持独立测试和公开问责的执行机制,包括在证据表明发布模型会实质性增加更广泛的措施无法充分解决的灾难性风险时, withholding models(暂停发布模型)。
他表示:“算力可以触发审查,而无需限制发展。审查并不是来自监管者或竞争对手的许可。”“我不想要通用的审批要求或等待期。任何基于安全原因施加的发布延迟,都必须符合灾难性风险例外情况的正当理由。”
大西洋理事会最近的一项分析认为,竞争压力要求执行严格的AI安全标准,而美中之间的互不信任使国际协议变得复杂。合作还引发了反垄断担忧:OpenAI已询问立法者,竞争对手开发商是否可以在法律上同意放缓研发。