快讯 22:26李在明视察蔚山在建数据中心,强调AI竞赛速度决定成败08:00Together AI 披露提示词泄露事件:编码 agent 误传凭证致样本外泄08:00Qwen4 Max登陆Together AI,1M上下文加持整仓bug修复 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 昨天 · 星期六 · 11-21 17:57 约 1 分钟读完

华中科大与阿里共建AI安全联合研究中心,首批9课题聚焦大模型攻防

摘要

华中科技大学与阿里巴巴集团11月18日签署合作协议,共建“智能攻防与前沿安全联合研究中心”,首批启动9个课题,覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向,涉及图像对抗样本、隐私保护关系图谱等具体研究。

AI安全研究再添校企合作案例。11月18日,华中科技大学与阿里巴巴集团签署合作协议,共同建设“智能攻防与前沿安全联合研究中心”,首批启动9个课题,研究方向锁定大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大领域。

从课题布局看,研究重点与当前AI应用落地的风险点高度对应。官方披露的案例显示,随着AI智能体开始代替用户操作手机、执行复杂任务,屏幕画面存在被伪造的可能,操作过程也可能遭到恶意诱导。为此,联合研究中心设立“图像对抗样本与终端威胁研判”课题,目标是探索此类安全风险的识别与防护技术。

数据协同场景下的隐私问题同样被纳入研究范围。用户在购物、地图、外卖等应用间切换时,数据互通带来便利,但个人信息在协同过程中可能泄露。“隐私保护关系图谱”课题将尝试借助密态计算等技术,实现数据“可用不可见、协同不透传”,在便利与隐私之间寻找平衡。

此次合作将高校的科研能力与企业的业务场景相结合,9个课题覆盖从模型层到终端层、从攻防技术到隐私保护的多重维度,后续研究进展值得AI安全领域从业者持续关注。

AI安全大模型安全校企合作隐私保护
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
27
模型产品档案
60
企业落地案例
33
完整版提示词