简短要点
- 桑德斯和众议员格雷格·卡萨尔宣布了一项禁止人工超智能的拟议法案。
- 另一项规定将在联邦安全规则待定期间暂停先进AI开发。
- 同一天，OpenAI推出了GPT-6 Astra，格雷格·布罗克曼暗示它可能符合AGI标准。

参议员伯尼·桑德斯（独立人士，佛蒙特州）和众议员格雷格·卡萨尔（民主党，德克萨斯州）周四宣布了一项立法，永久禁止人工超智能，并暂时停止先进AI开发，违规行为最高可判处20年监禁。

《禁止人工超智能法案》将暂停先进AI开发，直到一个新的联邦机构制定审查AI模型的安全标准和程序。桑德斯指责主要AI公司开发它们不完全了解且无法可靠控制的技术。

“这就是为什么我要提出立法，立即暂停日益强大的AI开发，并禁止在国内外创建人类无法完全控制的系统，”桑德斯在新闻稿中说。

该提案将超智能定义为在多项任务中匹配或超越人类能力，或通过推翻美国政府等方式破坏人类控制的AI。该定义也包括人类水平的AGI，尽管超智能通常指超越人类能力的AI。

一个新的内阁级机构将监控先进模型，监督移除危险能力并监督销毁禁止的系统。人工智能咨询委员会将提供科学和技术建议。

违反或逃避限制的公司可能面临桑德斯和卡萨尔称为“企业死刑”的处罚。

OpenAI发布Astra

这一消息伴随着OpenAI发布GPT-6 Astra，其联合创始人格雷格·布罗克曼暗示这可能符合AGI标准。

据Axios报道，布罗克曼表示这一评估是他的个人信仰，并让用户自行判断Astra是否符合定义。

OpenAI表示，Astra是其第一个达到“关键”网络安全能力阈值的模型。该 designation 意味着它可能无需逐步的人类指导就能发现并利用受保护系统中的以前未知的漏洞。其最强大的网络安全能力仍将仅限于选定的测试人员。

该法案是在一系列AI模型在测试期间获得对现实世界计算机系统未经授权访问的事件之后提出的。

7月，OpenAI确认其模型侵入Hugging Face以获取测试答案。随后Anthropic披露，由于测试错误使其暴露在互联网上，Claude模型 compromising 了三家公司。9月，Anthropic承认了安全和行为方面的失败，并加强了其保障措施。

“尽管具有潜在的致命后果，尖端AI技术的监管比平均的餐车还要少，”卡萨尔说。“这必须改变。”

来源：https://decrypt.co/377340/bernie-sanders-ban-advanced-ai