Hugging Face CEO:AI末日风险近零,闭门开发才是真正隐患
摘要
在迈阿密WIRED世界博览会上,Hugging Face CEO德朗格称AI导致人类灭绝的概率接近于零,更现实的风险是少数大公司在封闭环境中秘密开发前沿模型。他主张开放生态形成制衡,并透露平台开发者已超2000万,双足机器人Microducks售出5万台。
当地时间11月5日,在美国迈阿密举行的WIRED世界博览会上,开源AI平台Hugging Face首席执行官克莱门特·德朗格(Clément Delangue)对人工智能的极端风险给出了自己的判断:AI导致人类灭绝的概率(即P(Doom))"接近于零"。这一表态与当前业界围绕AI生存性风险的激烈讨论形成对照。
德朗格将关注点转向另一种风险形态。他认为,相比"AI毁灭世界"的宏大叙事,更现实的威胁来自少数大公司在封闭环境中秘密开发前沿模型,即"少数闭门造车的参与者"。在其论述中,风险源头并非开放生态本身。
对于如何降低风险,德朗格给出的路径是扩大公开参与面——让更多开发者能够公开构建、审查和改进模型,从而形成相互制衡的生态系统。他进一步将开放权重模型定位为一种双重选择:既是技术路线,也是防止少数企业垄断人才、算力与AI能力的手段。
德朗格同时披露了平台的最新规模数据。Hugging Face目前的AI开发者已超过2,000万,较英伟达今年9月宣布以129.3亿美元收购该公司时公布的约1,800万用户继续增长。此外,该公司已售出5万台可通过AI编程的双足机器人Microducks。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗