华中科大与阿里共建AI安全联合研究中心,首批9课题聚焦大模型攻防
摘要
华中科技大学与阿里巴巴集团11月18日签署合作协议,共建“智能攻防与前沿安全联合研究中心”,首批启动9个课题,覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向,涉及图像对抗样本、隐私保护关系图谱等具体研究。
AI安全研究再添校企合作案例。11月18日,华中科技大学与阿里巴巴集团签署合作协议,共同建设“智能攻防与前沿安全联合研究中心”,首批启动9个课题,研究方向锁定大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大领域。
从课题布局看,研究重点与当前AI应用落地的风险点高度对应。官方披露的案例显示,随着AI智能体开始代替用户操作手机、执行复杂任务,屏幕画面存在被伪造的可能,操作过程也可能遭到恶意诱导。为此,联合研究中心设立“图像对抗样本与终端威胁研判”课题,目标是探索此类安全风险的识别与防护技术。
数据协同场景下的隐私问题同样被纳入研究范围。用户在购物、地图、外卖等应用间切换时,数据互通带来便利,但个人信息在协同过程中可能泄露。“隐私保护关系图谱”课题将尝试借助密态计算等技术,实现数据“可用不可见、协同不透传”,在便利与隐私之间寻找平衡。
此次合作将高校的科研能力与企业的业务场景相结合,9个课题覆盖从模型层到终端层、从攻防技术到隐私保护的多重维度,后续研究进展值得AI安全领域从业者持续关注。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗