微软AI负责人苏莱曼发文:AI模型无意识,须确保其永不产生意识
摘要
微软AI负责人穆斯塔法·苏莱曼在X平台发文,明确当前AI模型不具备意识,并主张应确保这一状态永久延续。他警告开发有意识AI属鲁莽之举,若训练中出现意识迹象,应呼吁全球暂停开发直至从设计层面消除。
微软AI部门负责人穆斯塔法·苏莱曼近日在社交平台X上发布长文,就AI意识问题作出明确表态。他指出,当前阶段的AI模型并不具备意识,而人类社会应当努力让这一状况长期保持下去。
苏莱曼在文中给出了更为具体的立场:倘若开发具有意识的AI在技术上可行,那么这样做本身便是鲁莽的,不应被推进。他进一步表示,如果模型训练过程中开始显现意识特征,他将呼吁所有相关方暂停AI开发工作,直到能够从设计层面彻底消除这类特性为止。
在信息透明方面,苏莱曼主张,任何表明AI模型具备意识的证据都应当第一时间向公众披露,由整个社会共同商议后续应对方案。他强调,AI开发者无权擅自将一种具有意识的新物种带入世界,即便有人以福祉为首要目标推动此类开发。
苏莱曼还从伦理角度阐述了理由:地球上80亿人并未同意参与这项实验,因此保护公众的道德权利、安全与福祉,是AI从业者必须优先履行的义务。这一表态为当前关于AI意识边界与开发伦理的讨论提供了来自头部厂商的明确立场。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗