美军AI生成虚假情报险致误拦中国船只,暴露AI工具校验缺失
摘要
据CNN报道,今年春季美伊战争期间,美军特种作战司令部分析师借助聊天机器人生成的情报报告,错误指称一艘中东中国船只运输核武器部件,美军一度准备武装登船拦截,行动前才发现报告完全不实。事件暴露美军AI工具分散部署、缺乏统一校验标准,AI辅助目标选定增多而人机协同规范缺失。
据CNN披露,今年春季美伊战争期间,美军内部发生了一起因人工智能生成内容失实而险些引发军事误判的事件。一份由特种作战司令部分析师借助聊天机器人撰写的情报报告,错误地声称一艘位于中东的中国船只正在运输核武器部件。
该报告迅速进入美军行动流程,军方一度准备对该船只实施武装登船拦截。然而在行动即将执行前,相关人员发现报告内容完全不属实,拦截行动随即被叫停。
调查显示,涉事分析师使用AI工具将开源情报与机密信号情报进行融合,并生成了格式规范的标准报告,随后在体系内传播。这一过程暴露出美军各部门AI工具部署分散、缺乏统一校验标准的现实问题。
当前,AI辅助目标选定在美军中的应用正逐步增多,但人机协同环节仍缺乏明确规范。此次事件表明,在情报生成与作战决策链条中,AI输出的准确性验证机制尚未有效建立,存在因模型幻觉直接触发军事行动的风险。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗