菲尔兹奖得主邓煜谈AI反蒸馏:公开思维链应成学术惯例
摘要
菲尔兹奖得主邓煜在论坛演讲中指出,AI公司以“防蒸馏”为由拒绝公开思维链不符合学术规范,并批评其在蒸馏全人类知识时态度宽松、面对外界质疑时却设限,提议通过开源数学模型保障学界自主性。
据潮新闻报道,菲尔兹奖得主、芝加哥大学数学系教授邓煜上周末在“知识分子”“赛先生”论坛发表主旨演讲,围绕AI时代的数学研究展开系统论述。他将AI相对人类的优势归纳为两点:无限的知识面与极低的试错成本,但同时强调,在数学研究乃至任何领域,人始终是主体,AI只是被人使用的工具。
邓煜进一步指出,若将AI视为研究者,就应当受学术规范约束。他以AI证明重大问题为例说明,合理要求是公开其思维链,而相关AI公司拒绝公布的做法明显违背学术界惯例。他提到,在这些公司公布的所有证明中,真正公开思维链的仅占极少数,多数情况下均以“防蒸馏”为由拒绝披露思维链及相关信息。
在邓煜看来,这种态度存在明显的不对等:AI公司在蒸馏全人类网络文献与知识时十分坦然,而当外界希望了解思维链时,却以他人意图蒸馏为由层层设限。他提议,学界可通过开源数学模型,确保数学界拥有掌握在自己手中的模型,减少对AI公司的依赖;模型使用也应遵循学术规范,涵盖数据使用、思维链公布与可追溯性等方面。
此番表态将AI企业的技术封闭与学术共同体对透明性的要求置于同一讨论框架下,为AI参与数学研究时应遵循的规范提供了来自数学界视角的参照。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗