陶哲轩警示AI依赖风险:人类或丧失对问题与答案的理解
菲尔兹奖得主陶哲轩在Science x AI Summit演讲中警告,人类将思考委托给AI的同时,正失去对问题及解决方案的理解。他指出AI在数学领域可快速给出答案却难以解释推理,数学领域风险可控,但应用于电网、航空管制等现实场景后果堪忧。
菲尔兹奖得主、数学家陶哲轩近日对人类社会日益依赖人工智能的趋势发出警示。他于10月16日在加州大学洛杉矶分校举行的Science x AI Summit上发表演讲,科学与人工智能研究基金会(SAIR)随后在YouTube发布了题为《Math 2.0》的完整视频,相关片段经海外社交平台X传播后引发关注。北京时间11月4日,其观点被进一步放大讨论。
陶哲轩的核心忧虑在于思考过程的外包。他表示,人们正把思考和解决问题的环节交给AI,由机器代为给出结果,但同时也失去了一种保障——无法确信AI提供的解决方案是否真正符合自身意图。他直言,这一趋势可能很快在现实世界中显现后果,并强调这是他数学领域之外的一项担忧。
在陶哲轩看来,AI对数学研究方式的改变具有代表性。过去数学家攻克复杂问题需要长期研究、理解相关理论并在此过程中积累新知识;如今AI能迅速给出答案,人类却未必能理解答案背后的推理链条。他认为,这种变化在纯数学领域风险相对可控,因为数学证明通常可借助形式化工具加以验证。
但陶哲轩提醒,当同类方法被迁移到现实世界,情况将复杂得多。他特别提及电网、航空交通管制、药物等场景,暗示在这些领域,答案的可验证性与人类理解力的缺失可能带来更严峻的挑战。
此番表态并非否定AI的能力,而是指向一个结构性风险:效率提升的同时,人类对问题本身及解决方案的掌控力可能被削弱。对AI行业从业者而言,如何在系统设计中保留可解释性与人类监督环节,正成为无法回避的议题。