奥尔特曼呼吁AI行业借鉴航空业,建立事故公开上报机制
摘要
OpenAI CEO萨姆·奥尔特曼在Salesforce Dreamforce大会上表示,AI事故无法完全避免,科技企业应借鉴美国联邦航空管理局和国家运输安全委员会的做法,建立公开上报与复盘学习机制,以提升AI安全性。
当地时间周二,OpenAI首席执行官萨姆·奥尔特曼在赛富时Dreamforce大会上发表讲话,指出对于新兴技术而言,一定程度的事故难以避免,关键在于行业能否形成从事故中学习的机制。
奥尔特曼明确提出,科技企业应建立公开上报事故的企业文化,并建议参照航空业的成熟经验。他以美国联邦航空管理局(FAA)和美国国家运输安全委员会(NTSB)为例,强调这两家机构对事故调查的高度重视,正是这套机制让航空出行变得更加安全。他表示:“事故终究还是会发生。我们要尽可能从每一起事故当中汲取经验,并据此作出应对。”
此番言论的背景是,外界对头部AI实验室研发高能力自主系统的速度再次提出质疑。上周从Anthropic离职的研究员雅各布·考克森此前也曾任职于OpenAI,他称各大企业“正一股脑冲向能够自我迭代的超级智能,拿全人类的命运下注”,引发了一场关于AI安全风险的讨论。此后另有多名AI安全研究人员对先进AI系统的潜在风险表达了担忧。
奥尔特曼的提议被视为对上述担忧的一种回应,即通过制度化的上报与复盘机制,在无法完全避免事故的前提下,尽可能降低风险并推动行业整体安全水平的提升。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗