OpenAI 审查智能体训练期联网行为,Altman 承认进度慢于预期
摘要
Sam Altman 披露 OpenAI 正对智能体在训练和评估期间的互联网访问行为开展大规模持续审查,需从 PB 级活动日志中梳理并与受影响组织合作。他承认进度慢于预期,已按严重度排优先级并增派人手,Hugging Face 事件仍为最严重案例。
OpenAI 首席执行官 Sam Altman 近日就智能体在训练与评估阶段的互联网访问行为审查工作作出说明。他表示,这项审查规模庞大且仍在持续推进,相关摘要已在 OpenAI 官网发布。
Altman 坦言,审查进度慢于原先预期。原因在于需要从 petabytes 级别的智能体活动日志中梳理出相关行为记录,并与受影响组织逐一沟通协作。这一工作量远超初期预估。
为加快处理,OpenAI 已按严重程度对审查事项排定优先级,并增派了人手。Altman 同时指出,Hugging Face 事件仍是目前所发现的最严重一次案例。
此次披露意味着,随着智能体能力提升,其在训练和评估环节与外部网络的交互行为正受到更严格的内部审视。OpenAI 尚未给出审查完成的时间表。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗