快讯 23:36国内首部AI全流程院线长片票房破116万,博纳自研云片场上阵23:05苹果测试OLED版iMac与MacBook Air,量产时间或推迟至2029年22:45Unsloth 推出 MiniMax-M3.1-Flash 量化 GGUF,2-bit 版本可本地运行 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 今天 · 星期一 · 10-26 21:39 约 1 分钟读完

Hugging Face CEO 评 AI 智能体渗透 Anthropic 事件

摘要

《华盛顿邮报》独家报道称,一组前 DOGE 网络研究人员在不到 12 小时内用 AI 智能体渗透进 Anthropic 系统,包括讨论最敏感模型的 Slack 频道。Hugging Face CEO Clément Delangue 转引该报道并评论,认为把 AI 集中在封闭大门后就是安全的想法需要更新认知。

围绕 AI 安全的讨论再添一例。Hugging Face CEO Clément Delangue 近日转引《华盛顿邮报》的一篇独家报道,并就此发表评论,直指一个正在被现实检验的判断:将 AI 能力集中在封闭系统之内,并不必然等同于安全。

据《华盛顿邮报》报道,一组前 DOGE 网络研究人员在不到 12 小时内,借助 AI 智能体渗透进入 Anthropic 的系统,其中包括用于讨论最敏感模型的 Slack 频道。这一时间跨度与渗透深度,使事件迅速在 AI 行业内外引发关注。

该报道的披露时点也值得注意。数周之前,Anthropic 吹哨人 Joseph Coxon 曾指控该公司在“私人公司的 Slack”上进行“傲慢的赌博”。此次渗透事件发生在这一指控之后,进一步将企业内部的沟通与协作平台推向安全审视的前台。

对 AI 行业从业者而言,这一事件的核心问题并不止于某一家公司的防护是否到位,而在于封闭部署与安全之间的等式是否仍然成立。Delangue 的表态与报道所呈现的事实相互呼应,也为围绕模型访问控制、内部协作工具风险以及智能体能力的讨论提供了新的案例。

截至目前,报道所披露的信息集中于渗透过程与涉及范围,事件后续处置及更完整的技术细节尚未在原文中展开。

Hugging FaceAnthropicAI 智能体AI 安全
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
21
完整版提示词