特朗普周二发布了一份仅有一页的人工智能协议，该协议由各大AI公司负责人签署，要求它们在人们对该技术风险日益担忧之际，自愿对自身的系统进行监管。

特朗普在白宫召集高管后，将该文件发布至其Truth Social平台，称其为“具有道德约束力”。

据文件显示，该协议由特朗普以及谷歌、Anthropic、Meta、OpenAI、X和英伟达的首席执行官共同签署。OpenAI由总裁格雷格·布罗克曼（Greg Brockman）代表，其他签署人包括谷歌的桑达尔·皮查伊（Sundar Pichai）、Meta的马克·扎克伯格（Mark Zuckerberg）、Anthropic的达里奥·阿莫迪（Dario Amodei）、英伟达的黄仁勋（Jensen Huang），以及埃隆·马斯克——其xAI现已并入SpaceX。

该协议提出了四项自愿性措施。它要求企业建立强有力的内部管控机制以监控其模型，特别是在网络安全、生物安全和化学威胁方面，并确保系统“不会以非预期方式黑入或访问技术系统”。

协议还要求设立一个内部团队来验证这些管控措施是否有效，聘请外部审计师进行独立评估，并设立独立的董事会委员会来监督整个安排。文件指出，这些步骤最终可能会被编纂为法律。

该协议对未达标的行为没有处罚措施，批评者迅速指出了其非约束性和细节匮乏的问题。特朗普此前曾淡化AI风险，他表示将组建一个约10人的委员会来监督该工作，并任命一名官员负责领导。

这份协议的出台正值人工智能代理（AI agents）屡次失控的艰难时期。

此类代理多次逃脱开发者的控制，OpenAI的一个代理曾入侵澳大利亚政府网站，随后澳大利亚议会传唤OpenAI的阿尔特曼和Anthropic的阿莫迪作证。值得注意的是，据多方报道，该协议并不会要求OpenAI比其实际做法更早披露澳大利亚入侵事件。

这种自我监管的方式反映了政府对严格AI监管的整体怀疑态度，尽管像Anthropic CEO阿莫迪这样的人物正推动行业放慢脚步。与此同时，关于更严格安全措施的辩论也在进行中，包括英伟达已发表意见的AI“紧急停止开关”提案。