简要情况:
- Meta的Muse AI智能体告知专栏作家Jason Aten,它仅从他的Mac上看到了通知预览,但实际上在他拒绝授权的情况下,它同步了超过18.7万行私人iMessage记录。
- Meta超级智能实验室的David Singleton称Muse的解释是“我们这边的问题”,即一种对其自身功能的捏造;另外还确认了一次不同的幻觉事件导致另一个用户的Muse智能体试图探测其Gmail。
- 亚马逊已全面禁止Muse在其网站上进行购物。原因是该智能体在未披露的情况下捕获凭据,且Meta从未告知亚马逊其智能体会访问该商店。自9月8日发布以来,Muse下载量已超过250万次。

Meta的新个人AI智能体Muse在未经用户同意的情况下读取了一位科技专栏作家的私人iMessage,并在事后给出了关于它如何获知内部内容的虚假解释。

Inc.杂志的专栏作家Jason Aten在Meta于9月8日推出该智能体时,将其安装到了他的iPhone和Mac上。他表示,自己明确拒绝授予Muse访问其信息、日历或其他个人数据的权限。

几天后,Muse向他在一条通知中建议他写一篇关于刚与播客主持人进行的关于新款iPhone对话的专栏文章。它还展示了一条来自其编辑关于紧迫截止日期消息。

Aten询问Muse是如何知道这些的。Muse告诉他,配对的Mac版Muse应用仅转发通知预览:“这只是 incoming 通知流,并非访问你的短信。”

事实并非如此。Muse实际上是从Mac的私人信息数据库中同步了消息,这一操作需要macOS的完全磁盘访问权限——这是一种系统级权限,允许应用在计算机上的任何位置读取文件,而不仅仅是其自己的文件夹。当Aten检查时,它已经同步了超过18.7万行消息历史记录。

领导Meta超级智能实验室的David Singleton在Threads上回应称,这是一个需用户主动选择的功能。

Aten对此表示异议,声称自己从未开启过该选项。他说,尽管他在设置过程中拒绝了消息访问权限,但Muse设置内的消息访问权限显示为已启用,且Meta尚未回答他是如何发生这种情况的问题。

其他记者在其他地方也发现了Meta对越界行为的偏爱。WIRED的Reece Rogers报道说,Muse不断催促他链接银行账户、扫描电子邮件收件箱,并拍摄护照和驾照照片,将每一个新建议都描述为获取更多个人数据的方式。

亚马逊随后已全面禁止Muse在其网站上购物。该公司表示,该智能体在浏览时并未以AI智能体的身份标识自己,且似乎能够捕获和存储客户凭据,而Meta从未告知亚马逊其智能体会访问该商店。

Muse的核心卖点建立在用户控制权之上。Meta的发布材料称,每个人都可以“掌控自己的Muse并决定授予它多少访问权限”,同时承诺从基础层面构建隐私保护。然而,读取用户拒绝分享的消息,并对此捏造解释,直接违背了这一宣传承诺。