简讯
- 调查人员称，Carli Michelle Heller于9月26日写道她将对李县治安官办公室“进行枪击”，并声称第二天她得到了一把新枪。
- 根据逮捕报告，Anthropic的安全系统标记了这些条目，人工审核团队随后向执法部门报告。
- Anthropic的消费者条款保留在其“独自裁量权”下向执法部门报告用户输入的权利。

一名佛罗里达州女子表示她像写日记一样使用人工智能。如今她面临重罪指控，而那个阅读并举报她的人，正是她从未打算让其看到这些内容的人。

据当地WINK News报道，博尼塔斯普林斯（Bonita Springs）的Carli Michelle Heller在调查人员发现她于9月26日写道将对李县治安官办公室（Lee County Sheriff’s Office）“进行枪击”后被捕。调查显示，她的Claude账户显示对话内容称她第二天就得到了一把新枪。

逮捕报告称，Anthropic的平台会监测关键词和威胁性内容。由于这些言论的严重性，它们被转交给人工审核团队，该团队随后向执法部门报告。

警员确定了Heller的身份，前往她的家中并平静地将她拘留。她被控做出书面暴力威胁。

Anthropic的文件并未对此隐瞒。其消费者条款保留在公司“独自裁量权”下，向执法部门报告用户输入、输出或行为。

其2026年9月10日生效的隐私政策也允许在公司善意相信披露是防止严重伤害所合理必要的情况下与警方分享数据。

实际上，即使选择退出将其数据用于模型训练三个月而非五年的选项，Anthropic仍有权使用您的数据，因此您的聊天记录从未真正私密。

同一政策还规定，被标记为安全审查的对话仍被用于提升Anthropic检测有害内容的能力。一篇被标记的日记条目最终可能成为检测器的训练材料。

Heller并非首例。《旧金山标准报》（The San Francisco Standard）在九月份报道，Anthropic在一名用户涉嫌写道他购买了AR-15步枪且CEO达里奥·阿莫迪（Dario Amodei）在其瞄准镜中之后，将其转介给警方。一名员工告诉警官，他对安全状况并未立即感到担忧，并援引公司政策拒绝展示这些信息。

该用户告诉《标准报》他只是在开玩笑，且在报道发布时他并未被捕或受指控。Anthropic的一位发言人将该事件称为“我们的安全措施按规定运行”。该公司拒绝说明是否对针对其自身员工的威胁采取不同的处理方式。

这不仅是Anthropic的问题。在2025年2月加拿大不列颠哥伦比亚省廷伯岭（Tumbler Ridge）发生造成八人死亡的学校枪击案后，OpenAI表示，它曾考虑在2025年6月警告加拿大警方，但结论是该账户并未显示出紧迫且可信的严重人身伤害风险。

OpenAI自身2025年8月的政策文章指出，针对他人的威胁会被路由给可能会将其转介给执法部门的人工审核员。

Heller的庭审日期已定于十一月。