404 Media 披露 Copilot 人工审阅机制:承包商评估用户上传图片与提示词
摘要
404 Media 援引内部承包商文档报道,数百名人类承包商正查看 Copilot 用户上传的图片和提示词,其中包含大量性暗示或不当内容。这些承包商由 Prolific 等公司雇佣,任务为评估图像编辑输出质量,而非审核违规内容。Microsoft 回应称,依据使用条款将客户数据用于产品改进。
据 404 Media 报道,一份来自内部承包商的文档显示,Microsoft 旗下 Copilot 产品存在人工审阅用户上传内容的机制。数百名人类承包商参与其中,负责查看用户提交的图片和提示词。
报道指出,这些承包商由 Prolific 等外部公司雇佣,其工作内容并非审核违规内容,而是评估 Copilot 图像编辑输出的质量。在审阅过程中,承包商接触到了大量包含性暗示或不当内容的用户上传材料。
针对上述报道,Microsoft 回应称,公司依据使用条款将客户数据用于改进产品。这一表态确认了用户数据会进入产品优化流程,但未进一步说明人工审阅的具体范围和数据处理细节。
该事件将 AI 产品训练与评估环节中的数据隐私问题再次置于聚光灯下。对于依赖用户输入进行模型迭代的科技公司而言,如何在产品改进与用户数据保护之间取得平衡,仍是持续面临的挑战。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗