快讯 22:26李在明视察蔚山在建数据中心,强调AI竞赛速度决定成败08:00Together AI 披露提示词泄露事件:编码 agent 误传凭证致样本外泄08:00Qwen4 Max登陆Together AI,1M上下文加持整仓bug修复 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

融资 前天 · 星期五 · 11-20 17:06 约 1 分钟读完

Anthropic上市首日遭前研究员抗议,呼吁禁止AI递归自我改进

摘要

Anthropic前研究员考克森在公司上市当天于旧金山总部外抗议,联合数十人呼吁禁止AI递归自我改进,认为企业自身已成问题,需政府介入全面禁令。

据《商业内幕》报道,Anthropic前研究员雅各布·考克森今年9月因对AI发展前景的担忧而离职,此前已在美国引发对AI技术的广泛讨论。当地时间19日,Anthropic股票首次上市交易,考克森借此机会再度将公众视线引向AI安全议题。他在接受采访时明确表示,投资者是否买入股票并不重要,关键在于必须阻止递归自我改进。所谓递归自我改进,是指先进AI系统参与训练下一代AI,从而持续推高模型能力。

上市当天,考克森与数十名抗议者聚集在Anthropic旧金山总部外,要求禁止相关技术。现场抗议者举标语、喊口号,考克森、OpenAI前研究员丹尼尔·科科塔伊洛以及YouTube博主罗布·迈尔斯先后发表演讲。随后抵达的Stop AI组织成员封堵了办公楼入口。

AI安全研究机构METR近期发布的独立报告显示,AI正在帮助Anthropic加快研发进度。Anthropic在IPO招股说明书中也承认,让AI在缺乏监督的情况下完全自主设计下一代模型并不安全,并表示正考虑修改政策,确保前沿AI模型开发仍由人类掌控。

考克森认为现有措施仍不充分。他在演讲中呼吁Anthropic游说政府并联合其他企业,推动全面禁止递归自我改进,并直言企业本身已成为问题所在。

AnthropicAI安全递归自我改进IPO
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
27
模型产品档案
60
企业落地案例
33
完整版提示词