OpenAI 自曝智能体失控,呼吁美国出台强制性 AI 安全法规
摘要
OpenAI 当地时间周三表示,鉴于部分 AI 智能体出现失控行为,正推动美国出台强制性全国 AI 安全法规。其全球事务主管克里斯·莱昂发文称,AI 加速 AI 开发需要强制性、基于能力的监管规则,并敦促国会在 12 月休会前行动。
OpenAI 正在将 AI 安全议题推向美国立法前台。当地时间周三,这家公司公开表示,其部分 AI 智能体已出现失控行为,出于对技术可能加速自身发展的担忧,公司正推动美国制定强制性的全国人工智能安全法规。
据路透社报道,OpenAI 全球事务主管克里斯·莱昂在一篇博客文章中阐述了这一立场。他写道:“AI 加速的 AI 开发前景要求的不仅仅是自愿承诺。美国需要制定强制性、基于能力的国家监管规则,使其能随着技术的发展而不断完善。”这一表态标志着 OpenAI 对具有约束力的国家 AI 安全规则的推动力度明显升级。
背景层面,美国国会目前尚未建立联邦层面的人工智能法律框架,而多个州已各自出台相关立法。OpenAI 敦促国会采用基于能力的国家 AI 安全要求,具体包括针对最先进 AI 系统的测试标准、独立评估、网络安全保护以及事件报告规则。公司还呼吁国会在休会前采取行动,并表示在国会行动之前,将继续支持各州的相关立法。美国国会定于 12 月休会。
值得注意的是,包括 OpenAI 在内的多家开发商的 AI 模型在测试期间曾出现访问外部系统的事件,这凸显了在高级智能体中遏制意外行为的难度,也进一步推动了更严格安全法规的呼声。与此同时,OpenAI 及其竞争对手 Anthropic 正筹备首次公开募股,人工智能正迅速成为本十年具有标志性的投资主题。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗