微软发布37页人文主义AI准则,明确反对赋予AI法律人格
微软于9月14日发布37页人文主义AI行为准则,明确“人比AI重要”,反对AI具备意识、法律人格及福利权利。此举与Anthropic推动的AI福利研究形成对立,微软AI CEO苏莱曼曾称后者猜想“极其危险”。
在AI安全担忧持续升温的背景下,微软于9月14日发布了一份长达37页的“人文主义AI行为准则”。该准则围绕人机关系提出明确立场,试图为AI发展划定伦理边界。此前,Anthropic首席执行官达里奥·阿莫代伊曾呼吁行业协同放缓研发节奏,而研究人员也警告称,AI模型迭代速度可能已超出人类安全部署与管控的能力范围。
微软在准则中强调,“人比AI更重要”,并指出AI模型并不具备意识,“不应被设计成模仿意识”。文件同时反对“赋予AI法人资格,或是认为模型应当享有福利、拥有权利”的观点。这一表述直接针对AI福利研究与模型意识相关理论,而Anthropic近期一直在推动该方向。阿莫代伊今年早些时候曾表示,Anthropic对“模型可能具备意识”持开放态度,并认为聊天机器人或许已是能够思考、感知的实体。
微软AI事业部首席执行官穆斯塔法·苏莱曼曾在6月《Decoder》节目中评价Anthropic的这类猜想“极其、极其危险”。尽管微软目前尚不属于头部AI研发厂商,但苏莱曼今年早些时候对《The Verge》表示,公司目标是“跻身全球四大AI实验室之列”。目前微软正在研发可对标谷歌、Anthropic等竞争对手的模型。
这份准则的发布,标志着微软在AI伦理议题上与Anthropic等公司划出明确界限。在行业竞争加剧、安全争议不断的当下,微软试图通过强调人类优先原则,为自身AI研发路径确立价值坐标,同时也向外界传递其在AI治理问题上的立场。