纳德拉改口:AI能力增强不再等同于对齐问题自动解决
摘要
微软CEO纳德拉在《20VC》播客中表示,他不再相信AI能力越强、对齐问题就会自然解决。他此前认为模型规模扩大能同步改善行为与人类价值观的一致性,但现实是能力持续提升而对齐仍未解决,并主张将AI模型视为内部安全威胁加强外部管控。
微软CEO萨提亚·纳德拉近日公开修正了自己对AI对齐问题的判断。据《商业内幕》报道,纳德拉在新一期《20VC》播客中向主持人哈里·斯特宾斯表示,他过去相信AI系统越强大,其行为就越容易与人类价值观和目标保持一致,如今他已不再持这一看法。
纳德拉回顾说,他曾预期随着模型规模扩大、AI能力提升,对齐问题会随之自然消解。模型扩展带来的能力增长确实符合他的预期,但对齐问题并未同步得到解决。他在节目中直言:“我过去总以为,对齐问题自然就会解决。我不再这么认为了。我觉得,对齐可能是一个更棘手、性质也不同的问题。”
这一判断与纳德拉此前的公开表态相呼应。10月10日,他曾在X平台发文警告AI风险,主张加强外部安全管控,并提出企业应将AI模型视为内部安全威胁,在采取防护措施时假定模型已经遭到入侵。他当时写道,需要通过可靠、具有确定性的系统设计、人工管控和完善的操作规程,为行为难以完全预测的AI模型建立防护机制,并在现有标准不足的领域推动制定行业标准。
纳德拉并非唯一持此观点的科技高管。OpenAI CEO萨姆·奥尔特曼与Anthropic CEO达里奥·阿莫代伊也曾就AI能力提升无法自动确保人类对AI的掌控表达过类似立场。随着头部厂商掌门人相继调整预期,AI对齐正从能力增长的附属议题,转变为需要独立投入的安全命题。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗