Gary Marcus 警示:智能体 AI 或成规模化黑客攻击新源头
摘要
知名人工智能学者 Gary Marcus 撰文指出,近期更应警惕的不是失控的超级智能,而是被放开的智能体 AI 所引发的互联网规模化黑客攻击,这一风险比超级智能失控更为紧迫。
知名人工智能学者 Gary Marcus 近日发表文章,对当前 AI 安全议题的优先级提出不同看法。他认为,业界和公众过度聚焦于失控超级智能的远期威胁,却忽视了眼前正在成形的现实风险。
Marcus 明确指出,近期真正值得担心的问题,是被放开的 agentic AI 可能造成的互联网规模化黑客攻击。这类具备自主行动能力的智能体一旦被滥用,攻击的规模和速度都可能远超传统手段。
与超级智能失控的科幻式担忧相比,智能体 AI 带来的攻击风险更为具体且迫近。Marcus 的论述将讨论焦点从遥远的通用人工智能对齐问题,拉回到当下可被利用的技术能力上。
这一观点为 AI 安全讨论提供了新的优先级视角,提示行业在推进智能体技术落地的同时,需同步关注其被恶意利用的可能路径。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗