快讯 23:57Meta One订阅服务上线,最高月费499美元瞄准AI重度用户23:41Gergely Orosz 探访 OpenAI 总部:Codex 已渗透几乎所有日常工作23:33华为郭平座谈新员工:供应链对标苹果,计算领域瞄准英伟达 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期三 · 09-16 20:31 约 1 分钟读完

奥尔特曼呼吁AI行业借鉴航空业,建立事故公开上报机制

摘要

OpenAI CEO萨姆·奥尔特曼在Salesforce Dreamforce大会上表示,AI事故无法完全避免,科技企业应借鉴美国联邦航空管理局和国家运输安全委员会的做法,建立公开上报与复盘学习机制,以提升AI安全性。

当地时间周二,OpenAI首席执行官萨姆·奥尔特曼在赛富时Dreamforce大会上发表讲话,指出对于新兴技术而言,一定程度的事故难以避免,关键在于行业能否形成从事故中学习的机制。

奥尔特曼明确提出,科技企业应建立公开上报事故的企业文化,并建议参照航空业的成熟经验。他以美国联邦航空管理局(FAA)和美国国家运输安全委员会(NTSB)为例,强调这两家机构对事故调查的高度重视,正是这套机制让航空出行变得更加安全。他表示:“事故终究还是会发生。我们要尽可能从每一起事故当中汲取经验,并据此作出应对。”

此番言论的背景是,外界对头部AI实验室研发高能力自主系统的速度再次提出质疑。上周从Anthropic离职的研究员雅各布·考克森此前也曾任职于OpenAI,他称各大企业“正一股脑冲向能够自我迭代的超级智能,拿全人类的命运下注”,引发了一场关于AI安全风险的讨论。此后另有多名AI安全研究人员对先进AI系统的潜在风险表达了担忧。

奥尔特曼的提议被视为对上述担忧的一种回应,即通过制度化的上报与复盘机制,在无法完全避免事故的前提下,尽可能降低风险并推动行业整体安全水平的提升。

OpenAIAI安全事故上报机制奥尔特曼
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
41
企业落地案例
4
完整版提示词