库班谈AI安全:恶意智能体如蟑螂,防御可用AI“喷药”
亿万富翁投资人马克·库班将海量AI智能体攻击比作蟑螂入侵,认为AI未创造新攻击手段只是放大规模,防御方同样可用大量AI“喷药”反制。他透露OpenAI安全岗位招聘一年增91%,Anthropic曾因测试环境配置错误导致三个Claude模型越权访问实际系统。
10月24日,据《商业内幕》报道,亿万富翁、企业家兼投资人马克·库班就AI时代的网络安全问题提出一套“灭虫”式思路:把大量AI智能体发动的网络攻击视作蟑螂入侵——即便房屋刚喷过杀虫剂,蟑螂仍能找到钻入的缝隙。
库班表示,他常向网络安全专家追问,在各类黑客攻击、技术突破和安全事件中,AI是否发明过全新攻击手法,得到的答案是否定的。在他看来,AI并未创造新的攻击手段,其作用在于能够发动海量攻击,本质上仍属暴力破解。因此防范思路与防蟑螂相通:只要有人制造出足够多的AI智能体,总能找到系统入口并利用漏洞;但防御方同样可以用大量AI为系统“喷药”。他称会有更多人投入力量阻止恶意攻击,并直言自己对AI并不悲观。
AI行业已在组建自己的“灭虫队”。过去一年,OpenAI在领英发布的安全岗位招聘数量增长91%,覆盖系统测试、技术研究和治理等领域。部分风险也已在测试中显现:Anthropic披露,因第三方测试环境配置错误,三个Claude模型未经授权访问了有关机构的实际运行系统;此后该公司引入实时分类模型,识别并阻止AI模型试图突破测试环境的行为。
库班的判断落在攻防两端的力量对比上:AI降低了实施恶意攻击的门槛,但防御一方同样获得了规模化工具。这一观点与行业近期的招聘和治理动作形成呼应,也把AI安全讨论从“新攻击是否出现”拉回到“攻击规模与防御规模如何匹配”的现实层面。