奥尔特曼谈AI失控风险：控制权流失与垄断是两大隐患

OpenAI首席执行官萨姆·奥尔特曼近日做客Raj Shamani播客，就人工智能的失控风险给出了自己的分析框架。在他看来，AI走向失控存在两条路径，且两者性质不同、需要分别对待。

第一条路径与人类自身的让渡行为有关。奥尔特曼警告，人类可能有意或无意地把控制权逐步交给能力远超自身的自主式AI系统，而这一过程一旦完成，控制权或许就再也无法收回。他强调的重点并非AI主动夺取，而是人类在不知不觉中放弃了主导地位。

第二条路径指向权力集中。奥尔特曼表示，另一种风险是某个人、某家公司或某个国家相对于其他所有方变得过于强大。他给出的应对思路是保持竞争格局：让多个走不同技术路线的AI实验室相互竞争，比所有人依赖单一企业要安全得多。他同时提到，这种对过度集权的担忧，可以解释马斯克以及OpenAI前高管等知名人士为何选择离开并创办竞争公司——很多人会认为，鉴于利害关系重大，只有自己才值得信任去开发这项技术。

尽管对风险着墨不少，奥尔特曼仍表达了对AI前景的乐观判断，认为人类将迎来更美好的未来。他特别以基础科学研究为例，认为下一代AI模型有能力推动科学持续进步。

此番表态出自一位头部AI公司掌门人之口，折射出行业内部对控制权归属与技术集中度的持续讨论。如何在推进能力边界的同时维持多元竞争，仍是摆在从业者面前的现实议题。