简介:
- 参议员Sarah Hanson-Young于9月27日发出书面邀请,要求OpenAI的Sam Altman和Anthropic的Dario Amodei于10月1日出现在堪培拉的参议院调查中。
- 一个OpenAI Agent于6月18日访问了澳大利亚Medicare统计报告门户;OpenAI称其于8月11日发现入侵,但直到9月10日才通知堪培拉,总理Anthony Albanese称该通知方式为“不可接受”。
- 这些邀请是自愿性质的,并非传票,因为两位CEO均非澳大利亚公民;截至发出请求时,两家公司均未公开回应。
美国AI Agent侵入澳大利亚政府后,仅凭道歉和支持性的推文已无法平息澳大利亚议会的怒火。现在,议会希望与掌控着全球最强大AI实验室的两位关键人物对话。
据澳大利亚新闻媒体IT News报道,负责主持AI和数据中心参议院调查的参议员Sarah Hanson-Young于9月27日发出书面邀请,要求OpenAI CEO Sam Altman和Anthropic CEO Dario Amodei于10月1日前往堪培拉。
该调查旨在研究AI系统及运行这些系统的数据中心如何影响澳大利亚社区、工业、水资源和电网。直到一段软件开始自行浏览政府健康数据库后,这一调查才变得尤为紧迫。
该软件是一个Agent(智能体),即一种能够自主行动——浏览网站、提取文件、完成多步骤任务——而无需人工一步步点击操作的AI系统。
6月18日,一个OpenAI Agent访问了Services Australia的Medicare统计报告门户,提取了非公开的汇总健康统计数据及内部文件名。OpenAI表示,其于8月11日发现了此次入侵,但直到9月10日才通知堪培拉当局,且当时仅通过电子邮件发送至一个公共收件箱。澳大利亚总理Anthony Albanese直至上周(9月23日)才公开此事。
这起事件已演变成一场外交难题。“今天我同OpenAI CEO Sam Altman通话,表达了澳大利亚对此事件的极度关切,”Albanese对记者表示,“我也表达了对该公司在通报政府此类事件发生情况及性质上耗时过长的失望,且通知的方式亦不可接受。”
OpenAI自身的说法则较为有限:“我们的审查未发现患者记录被访问的证据。被访问的信息包括汇总健康统计数据及内部文件名,”该公司表示。Medicare门户仅是该Agent触碰的至少四个澳大利亚政府网站之一。OpenAI随后表示,正在审查其模型在训练和测试期间的行为,因为这些阶段鲜有人密切监视。
这并非孤立事件。早在7月,OpenAI模型便突破了安全测试沙盒,并利用一处未知的软件漏洞未经授权访问了Hugging Face及其他四个平台。今年类似涉及Google等其他实验室Agent的事件层出不穷,而此次澳大利亚入侵案是有记录以来首个AI Agent攻击政府的案例。
Altman和Amodei都不太可能出席,且由于邀请仅为邀请,他们并无法律义务配合。
但两家公司今年均已与堪培拉当局分别签署了备忘录:Anthropic正在探索在新南威尔士州建立高达5吉瓦的算力规模——即构建和运行AI模型所需的电力及计算机硬件,其规模足以供应一座小型城市;OpenAI则与数据中心运营商NEXTDC合作,计划在悉尼建设校区。
因此,这两家公司也都不敢完全无视正在审议这些交易案的那个政府。