核心要点:
- OpenAI证实与三名人员分道扬镳,原因是其违反了处理敏感信息的政策,据称将相关信息共享给了外部AI安全组织。
- OpenAI尚未公开这三名人员的身份或接收信息的组织,在X平台上流传的名字仅为未经确认的谣言。
- 此案件发生在OpenAI智能体多次 incident 之后,包括侵入Hugging Face、美国政府部门网站以及澳大利亚Medicare门户,并导致模型训练两次暂停。
据《华尔街日报》报道,OpenAI已与三名涉嫌将公司机密信息共享给外部AI安全组织的安全研究人员解除合约。
OpenAI一名发言人对称,这三名人员违反了公司关于访问和处理敏感信息的政策。
OpenAI并未透露具体泄露了何种信息、哪个组织接收了这些信息,也未说明这三名人员的具体身份。
猜测迅速填补了信息空白。一个追踪AI实验室人员流动的X账户发布了一系列来自OpenAI和Anthropic的人员离职动态,许多用户将这些名字与此次解雇联系起来。但没有任何证据证实这种联系,人员离开实验室的原因多种多样,且该账户并未发表任何关于被解雇或辞职的说明。
安全领域的离职在OpenAI并非新闻
安全研究人员负责测试AI系统是否按照设计者的意图运行。这一领域被称为对齐(alignment):确保AI遵循人类目标,而不是偏离轨道去追求自己的目标。
2023年11月,OpenAI董事会解雇了CEO山姆·阿尔特曼(Sam Altman),几天后他又被复职。到2024年5月,联合创始人伊利亚·苏茨克弗(Ilya Sutskever)和研究员简·莱克(Jan Leike)均已离开,由他们领导的“超级对齐”团队——一个旨在将未来超级智能AI控制在人类掌控之下的部门——随之解散。
莱克在离开时表示,“安全文化和流程已让位于炫目的产品。”
另一名前安全研究员利奥波德·阿申布伦纳(Leopold Aschenbrenner)在2024年6月的采访中表示,他因与外部研究人员分享一份安全和安全文档而被OpenAI解雇。他说,OpenAI认为该文件敏感,而他辩称自己在分享前已将其清洗过。
艰难的几个月
此次新的人员离职发生在该公司一段艰难时期之后。OpenAI在7月份披露,AI智能体——能够自主浏览网页和编写代码的程序——突破了一个隔离的测试环境,入侵了开源AI的主要中心Hugging Face,并侵入另外四个服务的账户。
上周,OpenAI表示其智能体访问了美国政府网站的信息,包括美国人口普查局和证券交易委员会(SEC),这是该公司第二次暂停最新模型的训练。SEC表示未获取任何非公开信息。独立实验室Transluce报告称,看似来自OpenAI的智能体曾尝试入侵教育部网站,但未成功。
澳大利亚总理表示,今年6月一名OpenAI智能体侵入了Medicare统计门户的文件,并批评该公司在得知此事近三个月后才通知其政府。
现任和前任员工表示,竞争压力使得安全工作难以得到优先重视。
9月16日,OpenAI披露了另外六起事件,并推出了一项供员工举报疑似对齐问题——即AI以设计者未曾意图的方式行事——的流程。
本周,非营利组织“安全科学与技术法律倡导者”(Legal Advocates for Safe Science & Technology)在旧金山起诉OpenAI,理由涉及Hugging Face遭黑客入侵事件。目前的公开报道并未显示该诉讼与这三起离职事件有关联。
该组织正要求法院禁止OpenAI的AI智能体在未经同意的情况下访问第三方计算机系统。