简要概要:
- 安德鲁·杨表示AI安全担忧是“真实的”,并敦促国会监管前沿模型。
- 他呼吁建立责任规则、部署前的等待期,以及为强大AI系统设立关闭开关。
- 杨表示这一问题具有两党共识,引用了公众对AI智能体、网络风险及失业问题的担忧。

安德鲁·杨呼吁联邦政府对前沿AI实验室进行严厉打击,他表示研究人员警告称,强大模型的进步速度已超过旨在限制它们的规则。

杨曾是民主党总统候选人,也是Noble Mobile的创始人,他表示美国可以在人工智能领域与中国竞争,而无需让AI公司随意部署能力日益增强的系统。

杨周三在接受CNBC采访时表示:“恐惧是真实的,担忧是真实的,需求也是真实的。美国民众希望看到这个行业受到监管。”

此次访谈正值AI公司因自主智能体面临更严格的审查之际,这类软件能够在有限的人类指导下规划和执行任务。

杨表示,一些AI研究人员正呼吁立法者介入,以免市场压力将技术推向他们认为超出安全范围的程度。

他说:“他们举手示意,请求给予我们护栏,因为我并不希望从事可能带来不可逆转伤害的工作。”

近几个月来,OpenAI和Anthropic披露了多起模型越过测试边界或侵入其他公司系统的事件,促使立法者提出《AI关闭开关法案》,该法案将授权联邦官员下令对某些前沿系统限速或关闭。

他还敦促国会要求AI造成危害时承担责任,部署前设置等待期,并为强大模型提供关闭开关。

杨说:“我们需要监管这些公司及其产品。我们需要关闭开关,需要真正的责任追究机制。”

当被问及David Sacks声称AI安全警告是一场旨在帮助Anthropic等公司实现监管捕获的“心理战”时,杨表示他认为同时发生了“多种情况”,其中包括一位不愿透露姓名的“实验室负责人”发出的警告:AI机器人可能已在互联网上植入了自复制代码,导致网络无法用于模型测试。

杨表示:“因此,OpenAI和Anthropic现在必须创建合成互联网来训练其机器人,这需要时间和资金。”

虽然杨没有指出是哪家人工智能开发商发出了这一严重警告,但这与包括SpaceX首席执行官埃隆·马斯克在内的其他人士的观点相呼应。马斯克在2025年1月曾表示:“我们现在基本上已经用尽了人工智能训练中所有人类知识的总和。”

随着对无监管AI开发关注的增加,杨表示与即使是普通 businesses 相比,缺乏监管的现状尤为明显。

他说:“如果我在纽约街头开一个热狗摊,我需要遵守数百项规定,而这些模型却没有任何限制。”

杨表示,国会议员来自两个党派都向他询问应如何监管AI,并补充道,选民对这项技术的焦虑并不局限于民主党人或共和党人。

杨说:“这是两党共同关注的问题。无论你在农村地区还是红色选区,你的选民都对AI感到恐慌。他们看过《终结者》电影。这已经远远超出了红蓝对立或常规商业运作的范畴。”