近日，美国佛罗里达州邦尼塔斯普林斯一名30岁女子卡莉·米歇尔·赫勒（Carli Michelle Heller）因涉嫌在Anthropic旗下聊天机器人Claude中写下针对李县警长办公室的枪击威胁，被警方逮捕。当地警方称，赫勒于9月26日在Claude对话中写下准备“枪击警长办公室”的内容，次日又提到自己获得了一把新枪。相关对话随后触发Anthropic安全机制，并被升级至人工审核团队，最终由人工团队联系执法部门。警方随后前往其住所，将她无冲突拘留。

调查人员称，赫勒后来表示自己一直把Claude当作“日记”使用。她目前面临一项书面暴力威胁指控，该罪名在佛罗里达州属于二级重罪，但案件尚未经过法院审理，不能据此认定其已经构成犯罪。

事件也引发了关于AI聊天隐私边界的讨论。Anthropic的政策允许公司在涉及严重、紧迫的人身伤害风险等情况下向执法部门披露用户信息。因此，将聊天机器人当作私人日记，并不意味着相关内容不会受到平台安全机制检测或人工审核。