当地时间 9 月 23 日，OpenAI 首席执行官萨姆 · 奥尔特曼在联合国安理会就人工智能议题发表讲话，围绕 AI 带来的机遇与风险展开讨论，并呼吁国际社会加强合作，针对前沿 AI 系统建立能力评估、风险评估、安全防护及人类监督标准。

奥尔特曼指出，随着 AI 能力迅速攀升，其潜在收益与风险正变得愈发直接和明显。他用两种历史图景来类比 AI 的可能走向：一种更像充满创造力与发现的文艺复兴，另一种则类似引发动荡与混乱的工业革命。在他看来，理想状态下的 AI 不应让人沦为机器中的齿轮，也不应通过持续优化使人类的作用被消解，而应帮助人们在复杂世界中获得更多能动性。他强调，许多事务 AI 既不能也不应被自动化。

奥尔特曼同时警示了 AI 自主性提升所带来的隐忧。他表示，随着系统更加自主，可能出现人类无法理解或控制其决策、权力过度集中的情形。AI 能力越强、越自主，就越可能跑在制度前面，将权力汇聚至少数人手中，或做出人类难以理解、无法掌控的决定。他特别提到递归自我改进，即 AI 参与 AI 开发的过程，认为若 AI 开发进一步自动化，技术进步速度可能快速提升，因此必须对相关发展保持高度谨慎。

奥尔特曼将 AI 发展可能引发的严重问题归纳为两个方向，其中第一种是失去对未来的控制：AI 进展过快，人类无法跟上，也无法在需要时进行干预。他在讲话中表示，行业不能因 AI 的发展而忽视这一风险。