美国总统科学技术顾问委员会联合主席戴维·奥利弗·萨克斯(David Oliver Sacks)近日就OpenAI与Anthropic所主张的“放缓前沿AI研发”论调发表个人评论。他指出,Anthropic的达里奥与OpenAI的奥尔特曼均表达了需要放慢前沿AI发展速度的观点。萨克斯对此回应称,如果两家公司认为自身模型已强大到需要放慢,他支持其负责任地作出决定,但反对借放缓之名寻求外部监管庇护。
萨克斯强调,无论从市场份额、营收增长还是模型能力来看,OpenAI与Anthropic已在前沿AI领域形成双头垄断。两家公司还声称,由于递归式自我改进,领先优势正在进一步扩大。萨克斯表示,他并不清楚这些实验室内部的具体情况,但若尚未发布的模型确实强大到令其认为应当放慢发展,他支持企业自主作出负责任的决定。
然而,萨克斯明确反对两家公司借此寻求监管保护。他批评称,不应假装必须暂停反垄断法以组成卡特尔,也不应假装需要一个凌驾于产品责任之上的监管审批机制。他还特别指出,METR(模型评估与威胁研究机构)并非独立机构,实际上与Anthropic的投资者和员工存在密切联系。萨克斯警告,不应让监管机构以这些公司的评判标准去衡量竞争对手。
萨克斯最后表示,如果产品导致真正具有破坏性的网络攻击,相关企业将面临巨大责任风险。市场本身已经在惩罚那些行为不可预测或未经授权的模型。在Hugging Face事件之后,OpenAI与Anthropic已用部分原始能力换取可靠性或安全性,这一趋势值得关注。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家 ↗