在法律实务中，AI工具生成虚假案例已非新鲜事，但AI伪造证词却极为罕见。律师Stephen Aaron在一起谋杀案中代表客户提起上诉，向法庭递交的法律文件里竟出现了捏造的警方证词和虚构的证人信息，引发司法界关注。

Aaron解释称，他将一份由计算机生成的庭审记录及其他案卷材料输入ChatGPT，期望获得一份“无懈可击的摘要”。他并未意识到AI工具可能产生“幻觉”——即编造不存在的内容。这一疏忽直接导致上诉文件包含虚假证据。

主审法官对Aaron的做法表示难以置信，当庭反问其是否不看新闻。最终，法官对Aaron处以5000美元罚款，并将其移交律师纪律委员会展开进一步调查。此案再次警示法律从业者，使用AI工具时须严格核查输出内容，避免因技术幻觉引发职业风险。