快讯 23:59阿里预判三年内原生全模态统一生成模型将落地23:46Agent时代,CPU的价值该重估了22:35Meta macOS AI助手Muse曝0-day漏洞:本地应用可窃取账户令牌 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期三 · 09-23 07:19 约 1 分钟读完

李飞飞呼吁AI安全评估引入独立机构,行业自律不足以应对风险

摘要

斯坦福大学教授李飞飞近日接受彭博社采访时表示,AI安全评估不能仅由开发公司内部完成,需独立机构和公共部门参与制定基准。她强调行业与政府应共同担责,AI风险最终取决于人类如何开发与治理技术。

北京时间9月23日,据彭博社报道,斯坦福大学教授、World Labs联合创始人李飞飞在周二接受彭博电视采访时,就AI安全治理问题发表了看法。她指出,对于能力日益强大的AI系统,安全评估不应完全交由开发这些系统的公司负责,独立机构和公共部门的参与至关重要。

李飞飞承认,AI公司内部研究人员有能力评估单个模型的能力和安全性,但她认为这无法替代由政府、行业和学术机构共同制定的更广泛标准。她表示,由独立机构以及学术界等公共部门制定基准非常重要,同时行业和政府也应共同承担责任。

此番表态正值AI安全担忧持续升温之际。硅谷一些领导人警告称,这项技术发展速度过快,可能最终超出人类控制。最近几周,Anthropic CEO达里奥·阿莫代伊和OpenAI CEO萨姆·奥特曼均呼吁放缓前沿模型的开发速度,两人将于周三在联合国安全理事会讨论AI安全问题。

李飞飞认为,AI可能带来的生存性风险,最终取决于人类选择如何开发、治理和使用这项技术。她将这一原则延伸至AI以外的技术领域,从电力、蒸汽机到现代交通工具,人类社会同样需要在技术益处与人身安全之间寻求平衡。她强调,人类掌握着技术的力量,必须掌握控制权,AI关乎的不是AI,而是人类。

李飞飞AI安全AI治理
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
50
企业落地案例
6
完整版提示词