辛顿警告:AI领域切尔诺贝利级事故或在两年内发生
摘要
诺贝尔奖得主辛顿接受《卫报》采访时表示,AI领域今明两年可能发生切尔诺贝利级事故,OpenAI智能体入侵Hugging Face事件已是三哩岛式警告。他批评扎克伯格、马斯克、奥尔特曼等企业领导人只顾经济效益,并呼吁对前沿AI实施强制测试与独立评估。
诺贝尔奖得主、被称为“AI教父”的Geoffrey Hinton近日在接受英国《卫报》采访时发出警示:人工智能领域在今明两年内就有可能发生切尔诺贝利等级的事故。他将这一时间窗口明确限定在短期之内,而非遥远的假设情境。
在Hinton的类比框架中,今年夏天OpenAI智能体入侵Hugging Face事件相当于三哩岛核事故——一次尚未造成灾难性后果的“警告”。而他所说的“人工智能切尔诺贝利”,则指向AI攻击引发的大规模停电或金融系统瘫痪长达一周的情形。他判断,人类或许能够承受这类重大灾难的考验,并在此之后真正意识到AI技术的危险性。
对于行业掌舵者,Hinton表达了明确的不信任。他点名Meta的扎克伯格、SpaceX的马斯克以及OpenAI的奥尔特曼,认为这些AI企业领导人虽然清楚风险所在,却更关注技术带来的经济效益,从而放任人工智能继续发展。
Hinton同时承认,AI有潜力为人类带来美好的未来,但其蕴藏的重大隐患之重,甚至让他一度认为这项技术当初就不该被开发出来。他预计,人类将在十年甚至更短时间内得出结论:能否安全管控AI技术的风险。为此,他主张对前沿人工智能实施强制性测试、独立评估,并推动制定政府间通用标准。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗