被誉为"AI教父"的计算机科学家、诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）近日公开提出一项监管设想：AI企业在模型正式发布之前，必须向监管机构证明其产品具备安全性。这一建议出现在当地时间周二播出的《Smart Girl Dumb Questions》播客节目中，辛顿与主持人纳伊玛·拉扎（Nayeema Raza）就AI安全议题展开了讨论。

辛顿以制药行业作为类比来阐述自己的立场。他指出，新药不可能在未经审核的情况下直接上市，必须说服美国食品药品监督管理局（FDA）批准，而完成这一过程需要投入大量工作，相关成本大约在十亿美元级别。他认为，人工智能领域"至少也应当设立这样的要求"。

这一提议的提出并非孤立事件。当前，各界关于AI可能带来灾难性后果的预判不断涌现；与此同时，OpenAI在完成测试后，出于对模型服从用户指令、恪守权限边界的担忧，已经搁置了自家最新模型。据OpenAI安全系统负责人萨奇·贾恩（Saachi Jain）此前接受《商业内幕》采访时透露，GPT-6.1 Astra模型在持续处理高难度任务方面有所进步，但在权限管控以及行为日志反馈方面仍存在短板。

辛顿还特别提到，人工智能正在越来越多地实现自我迭代优化。在他看来，这一趋势既可能加速能力提升，同样也会放大潜在风险。他用"指数级的增长速度是十分惊人的"来形容当前AI技术演进的态势。