黄仁勋谈AI安全底线:前沿实验室若失控必须关闭
摘要
英伟达CEO黄仁勋接受《纽约时报》采访时表示,若OpenAI、Anthropic、Meta、Google等前沿实验室无法控制其AI实验,就必须关闭。他警告失控智能体将引发民事与刑事责任,并称当前对实验室的泛焦虑偏离了实验可控性这一核心问题。
英伟达首席执行官黄仁勋近日在接受《纽约时报》采访时,就前沿AI实验室的安全问题作出明确表态。他提出一条底线:如果这些实验室无法有效控制自身的AI实验,那么它们就必须停止运营。
这一判断直指当前AI领域最受关注的几家机构——OpenAI、Anthropic、Meta以及Google。黄仁勋所针对的,是前沿模型遭遇“越狱”攻击后可能出现的实体行为风险。在他看来,一旦实验过程催生出失控智能体(rogue agents),相关实验室将面临民事与刑事责任,必须为后果负责。
黄仁勋同时提醒,现阶段围绕前沿AI实验室的种种担忧,有些属于“干扰”,偏离了真正的问题核心。他认为不应陷入泛化的焦虑,而应把注意力聚焦在实验是否可控这一具体命题上。
此番表态来自全球最重要AI芯片供应商的掌舵者,其立场或将影响行业对前沿模型安全边界的讨论方向。在算力供给与模型研发深度绑定的背景下,黄仁勋将“可控性”而非笼统的安全恐慌,摆在了议题的中心位置。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗