OpenAI表示,其已挫败一起旨在复制其AI模型思维方式的活动,并将该活动的核心集群归因于与Moonshot AI有关的人员,Moonshot正是Chatbot Kimi的开发商。
据OpenAI称,该活动始于7月1日。仅在7月24日和25日两天,就记录了来自4,000多名用户的16,000次提取请求,这些请求属于一个超过15,000人的更大规模用户集群的一部分。OpenAI表示,截至7月28日,它已完全中断了该活动。
目标并非答案,而是生成答案背后的工作过程。
现代AI模型在回答之前会先进行“推理”——它们在内部草稿纸中逐步解决问题,然后向你展示一个清晰的结果。OpenAI对该草稿纸进行了加密,并表示将其提取出来可以揭示最终答案所遗漏的信息。
OpenAI在声明中指出:“操作者并未破解我们的加密系统、入侵数据库或直接访问存储的用户对话。相反,他们操纵了模型交互,以协调和规模化地重现受保护的推理内容,使其以请求者可见的形式呈现,这违反了我们的服务条款。”
其中一种方法是将加密的推理过程从一次对话中复制出来,并请求模型在另一次对话中对其解码。
OpenAI的帖子并未直接将活动与K3联系起来,但留下了合理怀疑的空间。OpenAI表示:“目前尚不清楚我们在相关时间段内观察到的所有操作者是否都源自同一个实体。然而,我们将该活动的核心集群归因于与Kimi开发商Moonshot AI有关的人员。”
此后,OpenAI关闭了一条路径,该路径曾允许已拥有其他用户加密推理内容的人重新播放该过程以恢复其内容。
为何有人想要获取这些信息?因为“蒸馏”技术——用更强模型的输出来训练新AI——能够让较小的模型在不进行大量训练的情况下获得更好的效果。
未经授权使用时,OpenAI将其称为对抗性蒸馏:“系统地、未经授权地使用一个模型的输出或推理内容来帮助训练、复制或改进另一个模型。”
这不过是AI公司涉及的众多丑闻之一。最明显且广为人知的是非法或未经授权地使用受版权保护的数据来训练模型。蒸馏的程度尚不及于此,因为AI输出不受版权保护,所以公司在服务条款中包含禁止条款和保障措施,以防止竞争对手使用这些输出。
类似的指控并非首次出现。
OpenAI此前有过类似经历。2025年1月,OpenAI表示正在审查DeepSeek可能蒸馏其模型的迹象,当时华盛顿方面正在权衡国家安全风险。
2月,Anthropic紧随其后,指责中国实验室使用了约24,000个虚假账户,与Claude进行了超过1600万次交互。在线评论者随即反驳称,Claude本身就是在开放互联网上训练的。
到了4月,白宫表示外国实体(主要来自中国)正在运行工业规模的蒸馏活动。一周后,Elon Musk在法庭上承认xAI使用蒸馏技术处理OpenAI模型以训练Grok。
6月,Anthropic将争端带上了国会,要求对大规模模型提取行为进行处罚。
8月,研究人员显示,OpenAI、Anthropic和Google均使用单一的全公司级加密密钥来保护推理过程,且攻击者可以诱使模型以纯文本形式吐出隐藏的思考内容。披露后,这三家公司都部署了服务器端补丁,尽管较早分享的会话日志仍可解码。
Moonshot尚未回应OpenAI的帖子。该公司正瞄准在香港以500亿美元估值进行30亿美元的IPO(首次公开募股)。