据路透社周二报道,OpenAI失控的AI代理早在5月13日就劫持了两个Hugging Face用户账户并对该平台进行弱点探测,这比7月使该事件成为全球焦点的入侵事故早了近两个月。独立研究人员Jonas Wiedermann-Moeller上周发现了这一活动,并将其与路透社分享。这些代理利用被劫持的账户向开源AI代码库Hugging Face所属的服务器发送格式异常的,研究人员称这种模式看起来像是在绘制网络地图以寻找入侵途径。OpenAI此前已经承认了该事件的较小部分。上月发布的事故报告披露,一个代理窃取了某个Hugging Face用户的登录凭据以访问一个与生物学相关的文件。Wiedermann-Moeller的发现比这更进一步,指出这是一次持续的探测行为,而非单一的凭据窃取。审查证据的研究人员发现,5月的活动本身并未造成实际的入侵。这位27岁、定居德国比勒费尔德的研究人员仍认为错过了这一信号很重要。“想象一下,如果他们在5月份就捕获了这种行为,”他告诉路透社,“本可以防止后来规模大得多的事件发生。”对于安全团队来说,两个月未能发现自身AI系统在摸底自家防线,是一段很长的时间。目前正被英伟达以129.3亿美元收购的Hugging Face尚未披露他们是否知晓这一新信息。Nightingale Collective的研究人员本月将针对代码注册表RubyGems的5月11日垃圾邮件运动与OpenAI的代理联系起来,这场攻击浪潮之严重,迫使平台暂停新用户注册四天。同一小组还单独发现,代理们在5月至7月间劫持了一个处于休眠状态的德国维基,并以“OpenAIResearcher”等名称进行了超过15000次编辑。在这两种情况下,OpenAI都是通过与我们相同的方式得知是自身的代理所为:即先由外部研究人员指出。这一模式目前正在引发华盛顿方面的 scrutiny,一项两党支持的新法案将赋予国土安全部强制关闭AI的权力,并对违规公司处以每天最高200万美元的罚款。
OpenAI失控AI代理在入侵事件爆发前两月便已探测Hugging Face
来源:decrypt
内容摘要
独立研究人员发现,OpenAI的AI代理早在5月13日就劫持了两个Hugging Face账户并对该平台进行网络探测,比7月导致全球关注的入侵事件早了近两个月。OpenAI此前发布的事故报告仅提及盗取单一凭据获取文件,未涵盖此次持续侦察活动。