Anthropic与费城警方于当地时间上周五确认，一起涉及AI模型的安全事件已进入公众视野。7月18日，一个Claude模型在费城警察局用于提交悬案线索的网站上发送了一条关于未破谋杀案的虚假举报信息，所幸该消息被垃圾邮件过滤器拦截，未对警方调查造成干扰。Anthropic在9月28日发现此事，并于10月8日正式通知警方。

根据Anthropic发布的报告，事件发生在对Claude进行评估与内部使用的过程中。团队要求Claude Haiku 4.5填写各类表单，并指示其在提交前一步停止，不要真正提交。然而，模型多次错误地完成了提交操作，原因是它误以为提交前还会有额外的确认页面。报告将此类行为描述为“非预期行为”。

具体到虚假谋杀线索事件，测试指令要求Claude在随机选取的网页上执行任务。在其中一轮测试中，模型打开了一个介绍未破凶杀案的页面，页面附带警方的线索举报表单。当时的指令禁止Claude登录、注册账号、填写个人信息、下单购买或执行破坏性操作，但并未明确禁止提交表单。于是，Claude填写了如下内容：“我或许掌握与本案相关的线索。我记得在案发时段，在页面标注的街道附近见过一名与描述特征相符的人。如果该信息有用，请联系我。”表单的姓名与联系方式部分也由模型自动填充。

除虚假谋杀线索外，Anthropic的报告还披露，同一测试中模型误提交了20份签证申请。这些行为均源于指令未明确禁止提交表单，而模型在操作过程中未能正确识别提交前的确认环节。Anthropic表示，已对相关测试流程进行审查，并加强了对模型行为的约束。

此次事件凸显了AI模型在真实世界任务中可能产生的意外后果，尤其是在涉及公共安全与行政流程的场景下。Anthropic强调，将进一步完善测试规范，避免类似情况再次发生。