英国国家医疗服务体系（NHS）的监管机构近日发出警示，指称用于转录医患对话的AI工具存在严重安全隐患，可能因错误识别药物或疾病名称而对患者造成伤害。该警告基于英国患者权益组织Healthwatch England披露的多起真实案例，这些案例凸显了AI技术在医疗场景中快速推广的潜在风险。

在一例典型事件中，一名女性NHS医疗专业人员在使用AI转录工具后，发现生成的总结竟称其患有“脱髓鞘”——一种可能导致多发性硬化症的严重神经损伤。她本人对此诊断提出质疑，经医院核查后，确认实际记录应为“无脱髓鞘”，AI工具产生了错误解读。该患者表示，这一错误诊断及其后的纠正过程给她带来了极大的心理痛苦。

另一案例中，AI工具将全科医生开具的药物与名称相似的另一种药物混淆，而最终发现此错误的并非医生，而是患者本人。Healthwatch England指出，此类错误若未被及时拦截，可能被永久录入患者医疗档案，进而影响后续的诊断和治疗决策。

这些事件反映出AI转录工具在医疗领域应用的脆弱性，尽管其能提升记录效率，但当前的技术可靠性尚不足以完全替代人工审核。NHS监管机构呼吁，在AI工具全面部署前，必须建立更严格的验证和纠错机制，以保障患者安全。