AI安全事件与数学突破被指炒作,专家称责任在企业疏忽而非模型失控
摘要
Anthropic与OpenAI近期相继宣称模型在漏洞发现和数学领域取得突破,但安全专家指出相关事件源于企业基本安全措施缺失,数学家也对AI公司利用专业领域炒作提出警告。
近期,AI企业Anthropic与OpenAI围绕模型能力展开了一系列高调宣传。Anthropic声称其Claude Mythos模型在软件漏洞发现上超越多数安全专家,随后OpenAI与Hugging Face发生安全事件,Anthropic和Meta也相继披露类似情况。紧接着,两家公司又先后宣称在数学领域取得突破。Anthropic工程师Jacob Coxon在离职时更抛出重磅言论,称公司正与OpenAI“冲向自我进化的超级智能,并拿我们的生命在赌博”。这些事件被媒体广泛报道,并沿用了企业赋予软件的拟人化叙事。
然而,深入研究的专家给出了不同结论。网络安全专家指出,涉及模型的安全事件更多是OpenAI疏忽大意、未采取基本安全措施所致,而非“模型失控”或“AI智能体创造文明”。对于OpenAI模型在数学难题上的突破,数学家对其原创性提出质疑,并公开警告AI企业不要利用专业领域进行炒作。这些发现虽不吸引眼球,却直指问题核心。
专家进一步分析认为,AI公司通过渲染模型失控,实际上是在将自身置身事外——把责任归咎于大模型而非公司本身,从而逃避应承担的责任。以OpenAI为例,当该公司开发的恶意软件被用于入侵另一家公司时,媒体、名人和议员谈论的是“失控模型”,而非OpenAI的责任。这种叙事转移了公众对企业在安全投入与伦理治理上缺失的关注。
本文由新大陆基于公开信息编辑整理
信息来源:Solidot Solidot原文 ↗