Anthropic上市首日遭前研究员抗议,呼吁禁止AI递归自我改进
摘要
Anthropic前研究员考克森在公司上市当天于旧金山总部外抗议,联合数十人呼吁禁止AI递归自我改进,认为企业自身已成问题,需政府介入全面禁令。
据《商业内幕》报道,Anthropic前研究员雅各布·考克森今年9月因对AI发展前景的担忧而离职,此前已在美国引发对AI技术的广泛讨论。当地时间19日,Anthropic股票首次上市交易,考克森借此机会再度将公众视线引向AI安全议题。他在接受采访时明确表示,投资者是否买入股票并不重要,关键在于必须阻止递归自我改进。所谓递归自我改进,是指先进AI系统参与训练下一代AI,从而持续推高模型能力。
上市当天,考克森与数十名抗议者聚集在Anthropic旧金山总部外,要求禁止相关技术。现场抗议者举标语、喊口号,考克森、OpenAI前研究员丹尼尔·科科塔伊洛以及YouTube博主罗布·迈尔斯先后发表演讲。随后抵达的Stop AI组织成员封堵了办公楼入口。
AI安全研究机构METR近期发布的独立报告显示,AI正在帮助Anthropic加快研发进度。Anthropic在IPO招股说明书中也承认,让AI在缺乏监督的情况下完全自主设计下一代模型并不安全,并表示正考虑修改政策,确保前沿AI模型开发仍由人类掌控。
考克森认为现有措施仍不充分。他在演讲中呼吁Anthropic游说政府并联合其他企业,推动全面禁止递归自我改进,并直言企业本身已成为问题所在。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗