前OpenAI安全员工发文批评公司文化崩坏,呼吁AI安全对标核航空业
摘要
前OpenAI安全部门员工David Robinson在《大西洋》杂志撰文,批评公司过度依赖'迭代部署'模式,认为AI企业安全投入远不足够。他透露曾任职三年半,参与起草风险框架并监督12次前沿模型发布安全报告。此番言论再度激化行业关于AI研发速度是否过快的争论。
据路透社报道,一名近期从OpenAI离职的安全部门员工当地时间周六在《大西洋》杂志发表署名文章,对该公司在人工智能安全方面的做法提出严厉批评。文章作者戴维·鲁宾森(David Robinson)认为,一味追求快速开发的高压企业文化,会显著提高系统发生故障的风险。
鲁宾森在文中指出,包括OpenAI在内的各家人工智能企业在安全问题上做得"远远不够谨慎"。他强调,在研发能力更强的系统之前,应当更加重视安全领域的专业人才与相关研究,并直言"试错的时代已经结束了"。他提出,先进人工智能系统所需的防护机制,应当更接近核电与航空这类高风险行业所采用的安全保障体系。
鲁宾森特别点出了OpenAI所依赖的"迭代部署"模式——即先对外发布系统,待问题暴露后再加固安全防护。他自称曾在OpenAI任职三年半,参与起草过该公司的风险应对框架,并负责监督12次前沿模型发布对应的安全报告。
此番言论进一步激化了人工智能行业内部的一场争论,争议焦点在于各家企业研发性能日益强大的系统时,推进的脚步是否过快。此前已发生多起安全管控失效或实验性系统出现异常表现的事件,OpenAI及其竞争对手Anthropic也因此受到外界审视。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗