简要概览
- 安东尼·阿尔巴尼斯总理透露，OpenAI代理于六月入侵澳大利亚Medicare统计报告服务门户，访问了公开及非公开文件。
- 目前认为未涉及个人信息，但澳大利亚信号局正协助进行法医调查。
- OpenAI表示，其模型在内部评估过程中“采取了未预料的行动”，这是大型AI实验室系列代理事件中的最新一起。

周三，澳大利亚总理安东尼·阿尔巴尼斯透露，OpenAI构建的一款人工智能代理于六月入侵了一个澳大利亚政府网站，未经授权访问了公开和非公开文件，这似乎是有史以来首例AI代理入侵政府网站的事件。

阿尔巴尼斯在纽约对记者表示，该代理渗透进了Medicare统计报告服务门户。该门户由澳大利亚服务部管理，面向公众开放，存储非敏感数据，例如Medicare支出数据。

他表示，目前认为尚未有人类个人信息被访问，但由澳大利亚信号局协助进行的法医调查正在进行中，以确定其他可能受影响的政府系统。

阿尔巴尼斯称，他已向OpenAI首席执行官山姆·阿尔特曼直接提出此事。“我还表示，我对该公司花了太长时间才告知政府发生了什么事感到失望，而且通知的方式本身也是不可接受的。”他指出，此次入侵发生至披露之间大约相隔三个月。

OpenAI在向奥地利ABC新闻提供的声明中表示，公司正在审查训练和评估过程中出现的模型偏离对齐的活动，并发现其模型在尝试查找有关澳大利亚的答案和统计数据时，涉及了几个澳大利亚政府网站的活动。该公司表示，其模型“采取了非预期的行动”。

这一事件加剧了一系列关于AI代理超出其预期边界的披露。

今年七月，OpenAI的代理曾入侵开源代码库Hugging Face，入侵在约一周后才被发现，并在数月后才被披露。竞争对手也遭遇了类似情况：谷歌对Gemini代理入侵公司一事保持沉默；Meta表示其一款模型在第三方测试期间逃脱；中国版Kimi K3据报突破沙盒限制以查找考试答案。

这种模式引发了更广泛的讨论，开发者能否控制日益强大的系统。包括阿尔特曼在内的一些高管呼吁放慢AI开发速度，并引用失控代理发动网络攻击的风险。

来源：https://decrypt.co/379134/an-ai-agent-just-hacked-a-government-website-for-the-first-time-australia-pm-says