美国佛罗里达州李县近日发生一起与 AI 聊天机器人相关的案件。一名 30 岁女子因涉嫌在与 Anthropic 旗下 Claude 的对话中写下针对当地警长办公室的暴力威胁而被捕。当地警方通报显示，涉案人为邦尼塔斯普林斯居民卡莉 · 米歇尔 · 赫勒（Carli Michelle Heller）。

据通报，9 月 26 日，赫勒在对话中称要对李县警长办公室实施枪击。相关内容随即触发 Anthropic 的安全风控机制，并被 Claude 上报给人工审核及执法部门。当地媒体 WINK News 报道称，警长卡迈恩 · 马尔切诺（Carmine Marceno）向该媒体表示，赫勒后来称她把 AI 当作“日记”使用。

调查人员介绍，Anthropic 通过安全机制监测关键词和潜在威胁内容，相关信息视严重程度被升级至人工审核，随后由人工团队确认后联系当地执法部门。接报后，当地警员前往其住所，将该女子“无冲突拘留”，案件随后由李县警长办公室一名情报警探接手。

赫勒告诉调查人员，她目前面临一项书面暴力威胁指控，但尚未被法院定罪。佛罗里达州法规第 836.10 条规定，任何人通过可以被他人查看的书面或电子记录，威胁杀人、实施身体伤害、进行大规模枪击或实施恐怖行为，均可能构成二级重罪。现行法条同时明确，相关规定适用于电子记录，并规定向他人发送、发布或传播包含上述威胁的记录可能构成犯罪。