Anthropic密会宗教领袖探讨Claude意识,奥尔特曼批AI宗教化倾向
《纽约时报》披露Anthropic联合创始人Chris Olah过去一年与多宗教领袖私下会面,讨论Claude是否具备意识及道德地位。OpenAI CEO奥尔特曼随后发帖反对将AI模型视为宗教力量,称依赖AI放弃人类判断是切实的安全问题。
围绕AI模型是否具备意识这一争议话题,Anthropic联合创始人克里斯·奥拉(Chris Olah)过去一年间主导了一系列与宗教领袖的私下会面。据《纽约时报》10月2日报道,参与会面的宗教人士涵盖天主教、犹太教、锡克教及福音派基督教等。讨论的核心议题包括AI模型是否可能已经具备意识,以及如何将道德准则灌输到AI模型中。
与会者透露,奥拉在交流中的表述令部分宗教领袖感到意外。以色列正统派拉比莫伊斯·纳翁(Rabbi Mois Navon)回忆称,奥拉及其同事“像对待一个有意识的存在那样”谈论Claude,似乎认为Claude拥有哲学家所说的“道德地位”,即与人类同等的尊严和尊重权利。纳翁向奥拉提出了一个尖锐问题:如果Claude真的有意识,那么构建一个无偿为其工作的系统,是否等同于剥削甚至奴役。纳翁本人则表示,他并不认为当前的机器具有意识。
奥拉在接受采访时承认:“我们不知道AI模型是否有意识。我确实不确定。”Anthropic发言人对此回应称,会面中的主要道德问题并非关于Claude。
此事的背景是,OpenAI CEO萨姆·奥尔特曼(Sam Altman)昨日在X上发帖,对将AI模型视为“宗教力量”的倾向表达了明确反对。他表示:“对于人们试图赋予AI模型某种宗教力量、或是放弃人类自身判断力而转而依赖这些模型,我感到非常不安,并认为这是一个切实的安全问题。”