联合国专家小组呼吁提前管控AI智能体,不必等待风险完全厘清
摘要
联合国AI独立国际科学专家小组发布首份专题简报,建议各国在风险机理尚未完全厘清前就采取管控措施,并强化国际安全与追责协作。报告发布正值联合国大会期间,中美亦同步开展AI会谈,AI议题持续升温。
联合国人工智能独立国际科学专家小组近日发布首份专题简报,向各国政府提出一项明确建议:对能力日益增强的AI智能体,不应等到科学界彻底厘清风险成因再行动,而应提前部署管控措施。这份报告也是联合国针对今年早些时候OpenAI入侵Hugging Face事件出具的首份重要评估文件。
简报的核心逻辑建立在“预防原则”之上。专家小组指出,当潜在损害可能是灾难性且不可逆的,而风险发生概率在科学层面尚无法确定时,预防原则恰恰适用。该原则最早可追溯至1992年《联合国里约环境与发展宣言》。小组强调,即便各国选择不同的立法监管路径,全球仍需投入更多资源关注高级AI正在浮现的各类风险。
报告发布的时机与联合国大会高度重合。本周各国领导人齐聚纽约,中美双方也同步开展人工智能相关会谈,AI议题进一步被推上全球外交议程。上周,联合国秘书长安东尼奥·古特雷斯已呼吁各国政府加强合作,共同应对AI威胁,并警告“世界承受不起一场在AI安全层面竞相降低标准的恶性竞赛”。
该专家小组成立于去年,被联合国称为旗下首个AI领域全球性科学机构。此次简报除呼吁提前管控外,还特别强调国际层面在安全与追责方面的协作需要强化。在各国监管路径分化的背景下,这一来自联合国科学机构的信号,或将为后续全球AI治理讨论提供参考框架。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗