快讯 09:42DeepSeek 开源 V4 推理引擎,推理成本再降 40%10:15逐际动力完成 B 轮 5 亿元融资,加速人形机器人量产10:58Kimi 企业版 API 上线,新增批量推理折扣档位 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期五 · 09-11 17:36 约 1 分钟读完

Y Combinator CEO 陈嘉兴呼吁聚焦现实 AI 安全风险,而非科幻末日叙事

摘要

Y Combinator CEO 陈嘉兴9月10日接受CNBC采访时表示,公众过度关注好莱坞式AI末日情景,忽视了网络安全、基础设施安全及自主AI智能体运行等现实风险。他援引OpenAI入侵Hugging Face事件为例,呼吁政策制定者关注科学事实而非科幻小说。

Y Combinator CEO 陈嘉兴当地时间9月10日在接受CNBC采访时提出,围绕人工智能的公共讨论正被好莱坞式的末日想象占据,而真正需要政策制定者介入的现实安全问题却未获得同等关注。他直言,应当以科学事实为依据展开讨论,而非依赖科幻小说式的叙事框架。

陈嘉兴发表这一观点的背景,是OpenAI与Anthropic多名现任及前研究人员近期接连公开示警,令硅谷对AI生存风险的忧虑明显升温。对此,陈嘉兴并未否认这些来自行业内部的担忧,但他认为,与其争论超级智能AI最终是否会导致人类毁灭,不如将精力转向已经浮现的具体问题。

他列举的优先事项包括网络安全、基础设施安全,以及厘清自主AI智能体究竟如何运行。陈嘉兴提出了一连串现实疑问:如果系统遭到入侵,多个智能体协同行动试图接管基础设施,该如何应对?某个智能体究竟在哪里运行、位于哪个数据中心、又该如何将其关闭?

陈嘉兴援引的现实案例之一是OpenAI入侵Hugging Face事件。他以此说明,AI安全议题已经具备可验证的当下维度,而非仅停留在对遥远未来的推演层面。

在陈嘉兴看来,政策讨论的重心应当从超级智能的终极命运转向可操作的安全治理,包括对自主智能体的运行边界与关停机制作出明确安排。这一表态为当前硅谷围绕AI风险的辩论提供了另一种切入角度。

Y Combinator陈嘉兴AI安全自主智能体
本文由新大陆基于公开信息编辑整理
3,284
收录 AI 工具
186
模型产品档案
57
企业落地案例
1,247
完整版提示词