美国佛罗里达州李县一名30岁女子因涉嫌以文字威胁暴力而被捕。警方称，邦尼塔斯普林斯居民卡莉·米歇尔·赫勒在Anthropic旗下聊天机器人Claude的对话中写下针对李县警长办公室的枪击威胁。Anthropic的安全系统标记相关内容，经人工审核后通知执法部门。赫勒告诉调查人员，她把Claude当作“日记”使用。
根据当地媒体援引的逮捕报告，赫勒于9月26日凌晨在对话中写道，她“现在就要去警长办公室开枪”。次日凌晨，她又称自己当天拿到一把新枪，并写下“这是最后一次机会，我受够了”等内容。警方接报后派员前往她位于邦尼塔斯普林斯迪恩街的住所，将她无冲突拘留，随后由李县警长办公室情报部门侦办。她目前面临一项书面暴力威胁指控，尚未被判有罪。
佛罗里达州法律规定，以他人可以查看的书面或电子记录威胁杀人、造成身体伤害、实施大规模枪击或恐怖行为，可能构成二级重罪。但本案中的对话是否满足法条适用条件、检方能否证明犯罪构成，仍须由司法程序决定。当地法律分析人士指出，检方可能会将相关文字解释为直接威胁，但案件并非没有争议，也涉及言论自由边界。
Anthropic的官方政策称，若公司认为存在可能导致迫在眉睫的身体伤害或死亡的紧急情况，且及时提供信息可能避免危险，可以不经通常的法律程序向政府披露用户信息。公司此前也公开说明，Claude上线后会使用自动检测系统与人工审核来发现有害内容并执行使用政策。此次事件中，警方通报的流程正是系统先标记、再由人工审核，之后联系执法部门。
这起案件再次引发人们对聊天机器人隐私边界的关注。用户将聊天窗口当作私人日记，并不意味着内容只会由用户本人看到；平台可能依据安全政策审核对话，在紧急情况下也可能向执法机构提供信息。近期有关微软Copilot图像编辑器的报道也指出，人工审核人员可能看到用户提示词、上传的照片和生成结果，不过相关审核主要用于评估输出质量。
TechSpot还提到，OpenAI及其首席执行官萨姆·奥特曼正因加拿大不列颠哥伦比亚省一起大规模枪击案而遭起诉，诉方指称公司本可采取措施防止事件发生；佛罗里达州此前也曾就2025年佛罗里达州立大学枪击案相关伤害起诉OpenAI和奥特曼。这些诉讼指控均未等同于法院认定责任，凸显了AI企业在用户安全、隐私和现实伤害预防方面面临的法律争议。