快讯 23:58无问芯穹与华环电子签署战略合作,共同探索国产异构算力AI基础设施新方向23:48日本游戏业AI渗透率飙升至85.8%,超六成开发者每日使用23:28特斯拉Optimus量产审厂启动 供应链企业回应进展 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期六 · 09-19 00:29 约 1 分钟读完

Gary Marcus 警示:智能体 AI 或成规模化黑客攻击新源头

摘要

知名人工智能学者 Gary Marcus 撰文指出,近期更应警惕的不是失控的超级智能,而是被放开的智能体 AI 所引发的互联网规模化黑客攻击,这一风险比超级智能失控更为紧迫。

知名人工智能学者 Gary Marcus 近日发表文章,对当前 AI 安全议题的优先级提出不同看法。他认为,业界和公众过度聚焦于失控超级智能的远期威胁,却忽视了眼前正在成形的现实风险。

Marcus 明确指出,近期真正值得担心的问题,是被放开的 agentic AI 可能造成的互联网规模化黑客攻击。这类具备自主行动能力的智能体一旦被滥用,攻击的规模和速度都可能远超传统手段。

与超级智能失控的科幻式担忧相比,智能体 AI 带来的攻击风险更为具体且迫近。Marcus 的论述将讨论焦点从遥远的通用人工智能对齐问题,拉回到当下可被利用的技术能力上。

这一观点为 AI 安全讨论提供了新的优先级视角,提示行业在推进智能体技术落地的同时,需同步关注其被恶意利用的可能路径。

Gary Marcus智能体 AIAI 安全黑客攻击
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
41
企业落地案例
5
完整版提示词