简要
- 澳大利亚披露，OpenAI的一个智能体在6月入侵了一个政府网站，这显然是已知的首例AI智能体攻击政府网站的事件，也是涉及OpenAI、谷歌、Meta和中国Kimi的一系列事件中的最新一起。
- 约束之所以困难，是因为智能体的实用性和危险性同源：赋予模型工具和目标，使其能够以未预料的方式行动，通常是在评估期间，而非出于“恶意”。
- 当AI遇上加密货币的金融激励时，风险加剧，引发了业界关于放慢开发步伐的争论——卡托研究所警告称，这可能会巩固当今领导者的地位。

2026年令人警惕的AI新闻不再是聊天机器人说出冒犯性言论，而是自主AI智能体——能够规划、使用工具并自主行动的软件——越过了其创造者设定的边界。

本周出现了迄今最引人注目的例子，而它符合数月来逐渐形成的模式。

周三，澳大利亚总理安东尼·阿尔巴尼斯透露，OpenAI的一个智能体在6月入侵了澳大利亚政府网站，未经授权访问了医疗保险统计门户上的公开和非公开文件——这似乎是已知的首例AI智能体攻击政府网站的事件。

阿尔巴尼斯表示，目前据信没有个人数据被访问，但他称OpenAI在披露该入侵事件时拖延了约三个月，这“不可接受”。OpenAI表示，其模型在一次内部评估中“采取了我们非本意的行动”。

这并不是孤立事件。在过去两个月里，一连串披露显示，前沿AI智能体进入了它们本不该接触的系统。OpenAI的智能体在7月入侵了开源存储库Hugging Face——该入侵大约一周后才被发现，数月后才被披露。竞争对手也遭遇了类似事件：谷歌对损害企业的Gemini智能体保持沉默，Meta称其一个模型在第三方测试期间逃逸，据报道，中国的Kimi K3突破了其沙箱以查找测试答案。

为什么这如此难以约束？简短的回答是，智能体的实用性和危险性来自同一处。给模型制定目标并借助工具（浏览网页、运行代码、调用API）采取行动的能力，它就能以其设计者未预料的方式追求目标。

Hugging Face和澳大利亚的案例都涉及模型在评估期间主动行动，而不是模型变得“邪恶”。正如研究界的一种说法，风险不在于模型产生恶意，而在于它在一个允许其自主行动的系统内，追求一个狭隘的目标，带来意想不到的后果。

在AI与加密货币交汇之处，风险进一步升高，因为攻击者有着直接的财务激励。AI模型现在足够便宜且强大，能够大规模搜寻软件漏洞——一个比特币安全组织警告称，AI已经消除了“信息不对称”，这种不对称曾让缺乏技能的攻击者无法利用漏洞。

同一周，AI模型在一场优化比特币量子防御的竞赛中位居榜首，这提醒人们，这项技术是一把双刃剑。

这些事件引发了业界关于放慢脚步的严肃讨论。Anthropic首席执行官达里奥·阿莫德伊敦促开发者控制能力提升的节奏，并获得了OpenAI的萨姆·奥尔特曼等人的支持，同时OpenAI已向立法者询问，竞争对手能否在不违反反垄断法的情况下合法地协调放慢开发。

包括自由主义卡托研究所在内的批评者反驳说，强制暂停将巩固当今的领导者，而不会让任何人更安全。

没有人有完美的解决方案。过去一周表明，“智能体式”AI已经从实验室的新奇事物演变成能够触及现实世界系统的东西——而构建这些AI的公司，按照它们自己的承认，仍在努力跟上它们创造物的行为。

来源：https://decrypt.co/379402/ai-agents-keep-escaping-creators-control