Anthropic 更新使用政策:新增欺骗性活动禁令与模型保护条款
摘要
Anthropic 发布新版使用政策,将于11月12日生效,多数变化属对既有规则的澄清。更新涵盖新设禁止欺骗性活动章节、收窄选举条款、明确武器软件与无人机武装禁令、细化监控与执法限制、补充高风险用例及自主物理操作的 human in the loop 要求,并新增禁止对模型持续无端虐待行为。
Anthropic 于近日公布其使用政策的最新修订版本,新规将于11月12日正式生效。该公司表示,此次调整的大部分内容并非引入全新限制,而是对现有规则进行澄清和细化,以提升条款的可执行性与透明度。
在具体修订中,Anthropic 新设了针对欺骗性活动的禁止章节,同时收窄了原有选举相关条款的适用范围。此外,政策明确了对武器软件及无人机武装的禁令,并对监控与执法场景下的使用限制作出更精确的界定。
针对高风险用例,更新补充了相应要求,并特别就自主物理操作提出 human in the loop 的强制条件,即相关操作必须有人类参与监督。值得关注的是,新政策还新增条款,禁止对模型进行持续性的无端虐待行为。
从行业视角看,Anthropic 此次政策更新延续了其在AI安全与合规治理上的审慎路线,通过细化边界来回应外界对模型滥用风险的关切。新规生效后,开发者和企业用户在使用 Claude 等模型时需对照调整自身应用场景的合规策略。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗