奥尔特曼回应AI安全争议:OpenAI无法取悦所有人,坚持迭代部署
摘要
在11月18日DealBook峰会上,奥尔特曼与布罗克曼表示OpenAI需在AI安全与创新间取舍,不可能让所有人满意。公司坚持迭代部署策略,通过真实环境检验风险,并承认模型能力增强使对齐与监控难度显著上升。
当地时间11月18日,OpenAI首席执行官萨姆·奥尔特曼与总裁格雷格·布罗克曼一同出席DealBook峰会,就人工智能安全与发展的关系作出回应。奥尔特曼直言,OpenAI无法做到让所有人都满意,公司必须在保障安全与持续创新之间寻找平衡点。
奥尔特曼用两种极端情形说明这一取舍:若一味追求技术突破、全力推进,公众难免担忧AI失控;而若将安全置于压倒性位置,产品与技术的进步又可能被拖慢。他强调,OpenAI选择的是“迭代部署”路径——分阶段推出技术,在真实使用环境中观察风险并持续修正。在他看来,脱离实际场景的封闭开发并非理解AI风险的有效方式,让技术接受现实检验同样重要。
布罗克曼从行业层面补充称,随着模型能力明显增强,安全性、保障性以及“对齐”(即AI行为符合人类意图)已成为必须严肃对待的议题。他表示,这一转变并非OpenAI一家之事,而是整个AI行业正在经历的文化调整。
奥尔特曼同时承认,模型能力的快速提升正在显著加大安全、对齐与监控的难度。据其介绍,OpenAI已与其他AI公司签署自愿协议,承诺开展风险评估并接受第三方评估,以应对外界对AI治理的关切。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗