联合国安理会当地时间9月24日召开会议，聚焦人工智能安全议题。据彭博社报道，OpenAI首席执行官萨姆·奥尔特曼与Anthropic首席执行官达里奥·阿莫迪罕见同台出席，围绕AI快速发展可能带来的存续性风险向各国领导人发出合作呼吁。

会议重点讨论了一项日益引发关注的担忧：AI系统或具备自我改进能力，最终发展到人类难以控制的程度。奥尔特曼与阿莫迪在发言中一致认为，各国政府不应将关键决策完全交由企业，而应与行业共同决定AI技术的未来走向。奥尔特曼表示，历史上竞争激烈甚至关系紧张的国家，在面对强大新技术时也曾为共同利益携手合作，当下必须成为这样的时刻。

阿莫迪通过视频发言指出，AI有望为科学和医疗保健带来巨大收益，但同样可能造成灾难性后果。他具体提到，恐怖分子可能借助AI制造致命生物武器，AI模型也可能强大到开发者无法掌控，因此各国政府需要制定国际安全标准。他强调，没有任何领导人、企业或国家能够独自应对这些全球机遇与全球威胁。

值得注意的是，两家公司均计划在未来数月内IPO，届时各自估值都有望接近1万亿美元。此次两位CEO在联合国场合的共同发声，被视为AI行业头部企业在监管议题上寻求全球协作的明确信号。